Meta alertará pais sobre conversas de adolescentes com IA sobre suicídio
Meta implementa alerta a pais sobre conversas de adolescentes com IA sobre suicídio e automutilação, e planeja acionar emergência em casos de risco.
A Meta anunciou que passará a notificar pais e responsáveis caso adolescentes discutam suicídio ou automutilação com o chatbot de inteligência artificial da empresa. A companhia também está desenvolvendo a capacidade de contatar serviços de emergência se as conversas indicarem risco à vida do usuário.
As novas medidas surgem em meio a um escrutínio crescente de reguladores e pais sobre como os chatbots de IA, incluindo os da Meta, respondem a usuários em crise, especialmente adolescentes.
Essa questão de responsabilidade tem moldado o design e o marketing dos produtos de IA, com empresas buscando equilibrar funcionalidade e segurança para jovens usuários.