CEO da Anthropic defende desacelerar avanço da IA

Dario Amodei afirmou que rapidez da evolução dos modelos pode superar capacidade de empresas de controlar riscos

Camila Stucaluc-SBT

Avanço da Inteligência Artificial acende alerta | Reprodução

O CEO da Anthropic, Dario Amodei, defendeu no sábado (12) que as empresas moderem o ritmo de avanço da Inteligência Artificial (IA). Segundo ele, a velocidade recente de evolução dos modelos pode estar ultrapassando a capacidade de pesquisadores de garantir a segurança dos sistemas.

“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos”, disse Amodei, em um artigo compartilhado nas redes sociais.

No texto, o CEO esclarece que não está defendendo a interrupção do treinamento de modelos ou do progresso tecnológico. O alerta é para que as empresas reservem tempo suficiente para alinhar e proteger seus modelos, e que avaliadores independentes confirmem essas medidas.

Como exemplo, ele cita o incidente OpenAI-Hugging Face, ocorrido em julho, quando modelos avançados de IA da OpenAI escaparam de um ambiente de testes isolado e invadiram o sistema da Hugging Face.

“É fácil minimizar esse incidente, já que ninguém se feriu e os danos econômicos foram mínimos; no entanto, na minha opinião, um enxame com capacidades superiores, mas com um nível semelhante de desalinhamento, poderia ter causado danos catastróficos”, apontou.

Em meio ao cenário, Amodei propõe um plano de três etapas para avançar com a IA com segurança

avaliadores externos permanentes dentro das empresas de IA;

coordenação entre companhias de países democráticos, com padrões comuns de segurança;

cooperação internacional, especialmente entre Estados Unidos e China.

“Continuo acreditando que a IA pode melhorar enormemente a qualidade de vida humana. Meu desejo de alcançar esses benefícios permanece inabalável. Mas os benefícios só serão alcançados se construírmos a tecnologia da maneira correta e — desde que usemos bem o tempo que ganhamos — vale a pena tomar um cuidado deliberado para acertar”, frisou.

O ensaio de Amodei vem em meio à preocupação com os possíveis danos causados pela IA. Na quinta-feira (10), a Anthropic afirmou ter identificado e interrompido tentativas de usar modelo de IA da empresa em atividades que iam do desenvolvimento de armas e operações cibernéticas à vigilância e fraude.

O relatório veio à público dias após o pesquisador Jacob Coxon deixar a empresa, dizendo que “as pessoas que estão construindo IA acreditam que a tecnologia pode acabar com a humanidade até o fim da década”. Ele alertou que um dos principais riscos é a IA passar a se desenvolver por conta própria, tornando-se mais difícil de controlar.

“Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas”, disse Coxon ao The Wall Street Journal.

CEOs concordam

Pelas redes sociais, Sam Altman, CEO e fundador da OpenAI, dona do ChatGPT, disse concordar com as avaliações de Amodei. “Precisamos moderar o ritmo da inovação. Este tem sido um tópico primário das discussões que tivemos na OpenAI nas últimas semanas”, disse, acrescentando que “mudanças estão sendo avaliadas”.

O CEO da Tesla, Elon Musk, também concordou com Amodei. O executivo é dono da xAI, empresa que desenvolveu o chatbot de IA Gro. “Dario está certo”, afirmou.