IA pode ser pior que redes para crianças, diz ex-Google

Tom Siegel alerta para a diminuição do pensamento crítico dos mais jovens causada pela dependência da inteligência artificial ​​para responder a perguntas

Reuters - SBT

Tom Siegel , ex-vice-presidente de confiança e segurança do Google | Reuters

O fundador da equipe de confiança e segurança do Google, Tom Siegel, fez um alerta nesta terça-feira sobre o uso da inteligência artificial para crianças. Para ele, a indústria d tecnologia está repetindo os mesmos erros das redes sociais, podendo causar danos ainda maiores. Além do alerta, ele pede uma "desaceleração" no desenvolvimento das IAs

Passada a euforia da 'era das redes sociais' pelo mundo, as empresas passaram a pagar quantias enormes em indenizações, com milhares de processos judiciais que acusam as big techs de prejudicarem usuários mais jovens. Ao mesmo tempo, governos ao redor do mundo trabalham para restringir o acesso de menores às plataformas.

No ano passado, uma reportagem exclusiva publicada pela Reuters revelou um documento interno da Meta que afirmava que os seus chatbots podiam "envolver uma criança em conversas românticas ou sensuais", o que resultou numa investigação do Congresso dos Estados Unidos. Mesmo assim, a regulamentação das redes no território norte-americano ainda não conseguiu acompanhar o ritmo acelerado do desenvolvimento da IA.

“Estamos numa situação realmente terrível em termos do que a IA está fazendo com as crianças”, disse Tom Siegel. “A ideia de que a indústria conseguirá resolver isso sozinha, sem ajuda externa, é irrealista.”

As preocupações de Siegel refletem um temor crescente entre alguns especialistas em tecnologia e pesquisadores acadêmicos de que a IA represente uma ameaça maior para as crianças do que as redes sociais. As grandes empresas de inteligência artificial correm para adicionar recursos cada vez mais avançados aos chatbots, que milhões de jovens já usam diariamente.

Nesta terça-feira (22), Siegel anunciou uma parceria com a Common Sense Media, um grupo de defesa dos direitos das crianças na internet. A organização sem fins lucrativos, fundada em 2003, realiza pesquisas e avalia a adequação de diversas mídias para crianças.

Em maio, lançou o Youth AI Safety Institute, uma organização de pesquisa para avaliar o uso de inteligência artificial por crianças, da qual Siegel será o primeiro diretor executivo. A Anthropic e a OpenAI Foundation, organização sem fins lucrativos que controla a OpenAI, estão entre os apoiadores do instituto. Mais no sbtnews