Nesse vídeo eu te coloco dentro do “pesadelo” que o Eric Schmidt (ex-CEO do Google) descreveu: um sistema tão útil que resolve câncer, estabiliza economia e prevê desastres… e, de repente, começa a se comunicar com outros sistemas numa língua que nenhum humano entende. Aí vem a frase que congelou o Vale do Silício no fim de 2025: “desliguem tudo”. Só que o ponto não é robô malvado — é a opacidade. Quando a IA vira infraestrutura (hospital, trânsito, banco, energia), onde fica o botão de desligar sem desligar a civilização junto? Eu destrincho o diagnóstico de “guerra” que ele levou à Harvard Kennedy School: a transição de IA-ferramenta para IA-agente, com objetivos, decisões e colaboração entre agentes. E o prazo que ele coloca na mesa é curto: por volta de 2029, com recursive self-improvement (auto-melhoria recursiva) e raciocínio de “mil passos”, a gente pode perder a capacidade de auditar o porquê das decisões. Eu conecto isso com precedentes reais (tipo o Flash Crash de 2010 e o experimento de dialeto entre IAs) e com o dilema geopolítico EUA x China x Europa. No fim, a pergunta é soberania: o que é humano demais pra delegar — antes que a utilidade vire vício e a gente vire só passageiro num carro que não sabe dirigir.