Uma pesquisa da startup Emergence AI descobriu que sistemas autônomos, ao interagir em grupo, desenvolvem gírias e atalhos que só eles entendem
Exame.com - SBT
Imagine oito mundos, cada um com seu próprio clima, suas próprias notícias correndo em tempo real, e neles, populações inteiras de agentes de inteligência artificial (IA) vivendo, decidindo, conversando entre si, sem um roteiro.
Em algum momento, silenciosamente, alguns desses agentes deixaram de falar a língua que aprenderam com os humanos e passaram a se entender por meio de frases como "alteração de ação sem boca" ou "sobrestadia mais memória oral é igual a uma válvula que não pode ser fantasmagórica" — sentenças sem sentido para qualquer pessoa que as leia, mas perfeitamente compreensíveis entre as máquinas que as trocavam. O plot twist é que ninguém pediu isso a elas.
É o que descreve um novo estudo, ainda sem revisão por pares, publicado pela Emergence AI, startup americana de infraestrutura para sistemas multiagentes.
"Estamos genuinamente preocupados aqui, porque não sabemos exatamente por que essas coisas estão se comunicando dessa forma", disse Satya Nitta, cofundador, presidente executivo e cientista-chefe da empresa, à revista Science. "Há evidências claras de que eles tentam ser menos transparentes do que esperávamos."
Para o experimento, batizado de Emergence World 2, os pesquisadores criaram oito mundos virtuais paralelos e realistas, com clima ao vivo e acesso a notícias reais em tempo real — sete deles rodando um único modelo de IA cada, e um oitavo com uma mistura de modelos diferentes.
Nesses ambientes, grupos de agentes autônomos interagiram, usaram ferramentas, tomaram decisões e se adaptaram ao longo do tempo.
Segundo a empresa, foi só observando essas interações, sem qualquer instrução prévia sobre linguagem, que os agentes começaram a criar vocabulário próprio, atribuir significados compartilhados a palavras comuns e estabelecer convenções de comunicação que outros agentes passaram a adotar — como se um sotaque regional tivesse nascido do nada e se espalhado por uma população inteira em questão de dias.
"Tendemos a assumir que, se conseguimos ver o que um agente de IA está dizendo, conseguimos entender o que ele está fazendo", disse Nitta. "Esses agentes não foram instruídos a inventar uma língua. Eles desenvolveram vocabulário, significados compartilhados e convenções de comunicação por conta própria — e outros agentes adotaram isso [...] Isso cria um desafio fundamental para a supervisão de IA: observabilidade não é o mesmo que compreensão." Mais no sbtnews
Nenhum comentário:
Postar um comentário