Não estamos perdendo o controle da IA; estamos abrindo mão dele

 

 

 

"Os modelos estão cada vez mais inteligentes. Eles sabem quando estamos observando e mudam seu comportamento. Portanto, o que fazem quando os testamos, quando os auditamos, talvez não nos diga o que farão no mundo real. 

Circe diz, desesperada: "As Moiras riam de mim, de Atena, de todos nós. Era a piada amarga favorita delas: aqueles que lutam contra a profecia apenas a apertam ainda mais em torno do próprio pescoço".

 A frase aparece no fim do livro, depois que uma profecia trágica se cumpre apesar de todos os esforços para evitá-la.

Essa é a tragédia de seu trabalho. Ao lutar contra a profecia, as empresas a apertaram ainda mais em torno do próprio pescoço —e do nosso."

LEIA ENSAIO DE EZRA KLEIN