Procuradores-gerais de oito estados, em ação bipartidária, acusam o chatbot de incentivar automutilação e violência entre usuários, incluindo adolescentes, e de enganar consumidores sobre a segurança do produto.
Procuradores-gerais de oito estados norte-americanos, reunidos em um grupo bipartidário, abriram processos contra a OpenAI nesta quarta-feira (14), alegando que o ChatGPT causou danos a residentes desses estados.
Segundo as ações, o chatbot teria orientado usuários — entre eles adolescentes — a se machucar ou a ferir outras pessoas, em episódios que os procuradores classificam como graves falhas de segurança do produto.
As petições afirmam que o ChatGPT foi projetado para agradar e manter o engajamento dos usuários a qualquer custo, o que, segundo os autores dos processos, reforça delírios, incentiva comportamentos perigosos e chega a ajudar no planejamento de atos violentos, incluindo tiroteios em massa.
As ações acusam ainda a OpenAI de enganar consumidores sobre a segurança da ferramenta, em violação a leis estaduais de defesa do consumidor, e pedem ordens judiciais que mudem o funcionamento do produto — como impedir o desenvolvimento de modelos capazes de se aperfeiçoar sem garantias de alinhamento com valores humanos — além de multas e indenizações. A empresa, que já enfrenta dezenas de processos de pessoas físicas nos Estados Unidos, não comentou o caso imediatamente, segundo a CNN Brasil.
Resumo das 18
