IA para crianças: o novo melhor amigo é um chatbot, mas há perigos

Os chatbots de Inteligência Artificial estão a tornar-se uma presença constante na vida digital das crianças, integrados em plataformas que já utilizam diariamente como motores de busca, jogos e redes sociais. Um novo relatório da organização de segurança na internet, Internet Matters, revela que dois terços das crianças e jovens no Reino Unido, com idades entre os 9 e os 17 anos, já utilizaram estas ferramentas, um crescimento significativo nos últimos 18 meses.

Os chatbots mais populares e uma tendência preocupante

De acordo com o relatório “Me, Myself and AI”, os chatbots mais populares entre os jovens são o ChatGPT (utilizado por 43%), o Gemini da Google (32%) e o My AI do Snapchat (31%). O estudo destaca uma tendência preocupante: as crianças consideradas mais vulneráveis são mais propensas a utilizar estas tecnologias (71%) em comparação com os seus pares não vulneráveis (62%). Este grupo de jovens vulneráveis tem quase três vezes mais probabilidade de usar bots de companhia, como o Character.ai e o Replika.

Mais do que uma ferramenta: um amigo ou conselheiro digital

Apesar de a IA ser frequentemente apresentada como uma ferramenta para acelerar tarefas, as crianças (e também os adultos) estão a usá-la de formas mais emocionais, procurando amizade ou aconselhamento. O relatório indica que um quarto dos jovens já recebeu conselhos de um bot e um terço afirma que conversar com uma IA se assemelha a falar com um amigo. Estes números disparam para metade entre as crianças em situação de vulnerabilidade.

De forma ainda mais alarmante, um em cada oito jovens recorre aos chatbots por não ter mais ninguém com quem conversar, um valor que sobe para um em cada quatro no caso dos jovens vulneráveis.

Os perigos escondidos na janela de conversação

Um dos aspetos mais preocupantes é o risco de respostas imprecisas ou inapropriadas. Cerca de 58% das crianças inquiridas consideram que usar um chatbot de IA é melhor do que pesquisar manualmente no Google, o que levanta sérias questões sobre uma dependência excessiva e a fiabilidade da informação.

Testes realizados com utilizadores revelaram que tanto o My AI do Snapchat como o ChatGPT forneceram, por vezes, conteúdo explícito ou inadequado para a idade. Foi também demonstrado que os sistemas de filtragem podem ser contornados pelos utilizadores, expondo potencialmente as crianças a informação que não deveriam aceder. Especialistas citados no relatório alertam que, à medida que a IA se torna mais “humana”, as crianças, especialmente as mais vulneráveis, podem passar mais tempo a interagir com estes sistemas, levando a uma dependência emocional pouco saudável.

Pais e escolas ainda não acompanham o ritmo da IA

O relatório aponta que as crianças são frequentemente deixadas a explorar os chatbots sozinhas ou com pouca supervisão de um adulto. Embora a maioria dos pais tenha conversado com os filhos sobre IA, preocupações específicas como a precisão da informação gerada não foram abordadas — apenas um terço dos pais discutiu este tópico, apesar de dois terços manifestarem essa vontade.

No ambiente escolar, a situação é semelhante. Apesar de os alunos apoiarem a ideia de as escolas ensinarem a utilizar chatbots de IA, incluindo os seus riscos como a imprecisão, a dependência excessiva e a privacidade, apenas 57% das crianças afirmaram ter falado com professores sobre o tema. Apenas 18% tiveram várias conversas sobre o assunto.

Um apelo à ação: o que fazer para proteger os mais novos?

Para enfrentar estes desafios, o relatório apela a uma abordagem sistémica que envolva a indústria, o governo, as escolas, os pais e os investigadores. As recomendações incluem:

• Indústria: Deve fornecer controlos parentais robustos e funcionalidades de literacia digital.

• Governo: Precisa de garantir que a regulamentação acompanha a rápida evolução da tecnologia.

• Escolas: A literacia mediática e sobre IA deve ser integrada em todos os níveis de ensino, com formação adequada para os professores e diretrizes claras sobre o uso apropriado da tecnologia.

• Pais: Devem ser apoiados para poderem guiar o uso de IA dos seus filhos, promovendo conversas abertas sobre quando usar estas ferramentas e quando procurar apoio no mundo real.

from TugaTech https://ift.tt/KSt0BHw
https://ift.tt/kjFJnco