Crianças e jovens recorrem à inteligência artificial para estudar, criar imagens e conversar com aplicações que respondem de forma rápida e personalizada. Estas possibilidades também apresentam riscos: informação incorreta, exposição de dados pessoais, conteúdos inadequados e confiança excessiva nas respostas. Compreender estes limites é essencial para uma utilização consciente.
Respostas convincentes podem estar erradas
Os sistemas de IA podem apresentar informações falsas, inventar referências ou dar explicações incorretas com aparente segurança. Uma resposta bem escrita não é necessariamente verdadeira. Nos trabalhos escolares, os jovens devem confirmar a informação em fontes credíveis e compreender o que utilizam. O recurso Estudar com o ChatGPT: sim ou não?, da RTP Ensina, ajuda a abordar estes cuidados com os mais novos.
A aparência de amizade pode criar confiança excessiva
Alguns chatbots simulam amizade através de linguagem afetuosa e respostas personalizadas. Esta proximidade pode levar crianças e jovens a atribuir compreensão humana a um sistema informático. A UNICEF analisa os riscos dos companheiros de IA para as crianças, incluindo o envolvimento emocional e a influência sobre comportamentos. Quando a aplicação se torna a principal fonte de companhia ou aconselhamento, importa preservar o contacto com familiares, amigos e outros adultos de confiança.
As confidências podem expor dados pessoais
Ao conversar com uma IA, os jovens podem revelar problemas familiares, informações sobre a saúde, fotografias ou detalhes da sua vida escolar. Nos serviços que funcionam na nuvem, estes conteúdos são enviados para sistemas externos e podem ser conservados de acordo com as políticas da plataforma. A OWASP identifica a divulgação de informação sensível como um risco das aplicações de IA. Deve evitar-se a partilha de informação íntima ou que permita identificar o próprio ou outras pessoas.
Os conteúdos podem ser inadequados à idade
As proteções das aplicações não garantem que todas as respostas sejam adequadas a menores. Podem surgir conteúdos sexualizados, violentos ou conselhos perigosos. O eSafety Commissioner apresenta orientações sobre estes riscos para crianças e jovens. Se uma resposta causar desconforto, incentivar comportamentos de risco ou sugerir que se esconda a conversa dos adultos, o jovem deve interromper a interação e procurar apoio.
Imagens e vozes artificiais podem enganar e humilhar
A IA permite criar ou alterar imagens, vídeos e vozes de pessoas reais. Estes conteúdos, frequentemente designados por deepfakes, podem ser utilizados para enganar, ridicularizar colegas ou produzir montagens íntimas sem consentimento. Mesmo sendo falsos, podem causar danos reais. Os jovens devem aprender a questionar a autenticidade dos conteúdos e a não criar nem divulgar material que exponha outras pessoas. Perante situações de abuso, a Linha Internet Segura da APAV disponibiliza apoio e mecanismos de denúncia.
A utilização excessiva pode prejudicar a autonomia
Recorrer constantemente à IA para escrever, resolver exercícios ou tomar decisões pode reduzir as oportunidades de praticar competências próprias. Na aprendizagem, importa que o jovem consiga explicar o raciocínio e avaliar a resposta recebida. A utilização também merece atenção quando ocupa repetidamente o tempo destinado ao sono, às atividades e às relações presenciais. As orientações da UNICEF sobre IA e crianças enquadram a importância de proteger o desenvolvimento e o bem-estar dos menores.
O aconselhamento automático tem limites
Uma IA não conhece necessariamente o contexto de quem a utiliza e pode responder de forma inadequada a problemas emocionais, familiares ou de saúde. Uma linguagem tranquilizadora não garante orientação segura. Perante situações difíceis, crianças e jovens devem procurar um adulto de confiança ou um profissional qualificado. Pais e professores podem apoiar esta reflexão com a reportagem IA psicóloga. Ajuda ou dependência?, da RTP Ensina, em português de Portugal.
Veja a reportagem da RTP Ensina.
Os principais perigos da utilização da IA por crianças e jovens incluem informação falsa, confiança excessiva, exposição da intimidade, conteúdos inadequados e manipulação de imagens e vozes. A prevenção passa por verificar as respostas, proteger os dados pessoais e manter o acompanhamento humano.
