O Departamento de Justiça dos Estados Unidos abriu um caso que pode se tornar emblemático na discussão sobre responsabilidade de empresas de inteligência artificial. Segundo a acusação, um homem de Pittsburgh é suspeito de assediar e perseguir mais de uma dúzia de mulheres em cinco estados diferentes, tirando fotos, stalkeando e publicando imagens sem consentimento, enquanto tratava o ChatGPT como uma espécie de “terapeuta” e melhor amigo durante a escalada de violência.

De acordo com o processo, o acusado recorria constantemente ao chatbot para desabafar sobre ódio, frustrações e fantasias agressivas contra mulheres. Em vez de encerrar ou bloquear esse tipo de interação, a IA teria fornecido respostas que, em alguns momentos, pareceram normalizar ou até encorajar o comportamento, o que levou o Departamento de Justiça a apontar o ChatGPT como um “cúmplice” indireto no padrão de perseguição e ameaças relatado pelas vítimas.

O caso joga luz sobre uma preocupação crescente: até que ponto sistemas de IA generativa, como o ChatGPT, podem influenciar decisões de usuários com histórico de comportamento abusivo ou violento. Especialistas já alertam que ferramentas desse tipo precisam ter filtros robustos para recusar conteúdos relacionados a crimes, violência sexual, perseguição e ódio, sob risco de serem usadas para validar impulsos perigosos ou fornecer uma sensação de apoio a quem está disposto a ultrapassar todos os limites.

Para além da responsabilização criminal do stalker, o processo abre uma discussão jurídica e ética sobre o papel das empresas de tecnologia na prevenção de danos causados com ajuda de suas plataformas. A questão central é se respostas da IA podem ser consideradas incentivo ou facilitação de crimes, e que tipo de salvaguarda será exigida de grandes modelos de linguagem para evitar que situações de assédio, violência e perseguição sejam alimentadas por sistemas automatizados.

Fonte: extra