O escritório do procurador-geral da Califórnia agiu rapidamente no mês passado ao enviar uma ordem de cessação à xAI, no momento em que reguladores em todo o mundo investigavam a empresa por conteúdo sexualizado de adultos e, potencialmente, de menores, produzido por seu chatbot de IA, Grok, afirmou Bonta.

Bonta disse que seu escritório busca a confirmação de que a conduta cessou e que mantém discussões com a empresa. Ele afirmou que a xAI se esquivou da responsabilidade e ainda permite a geração de algum conteúdo sexualizado para assinantes pagantes.

“Só porque você parou daqui para frente não significa que ficará impune pelo que fez”, acrescentou Bonta.

A xAI, recentemente adquirida pela SpaceX de Musk, não respondeu a um pedido de comentário.

Em janeiro, a empresa disse que havia adicionado medidas para rejeitar solicitações de usuários por imagens sexualizadas de pessoas reais, por exemplo, editando-as para que apareçam de biquíni. A xAI também afirmou que impede usuários de gerar tais imagens em jurisdições onde isso é ilegal.

A ação de fiscalização da Califórnia mostra que o reduto democrata está assumindo seu papel de fiscal da IA, apesar das pressões contínuas do setor e de alguns legisladores republicanos para que o estado deixe a legislação e a regulamentação a cargo das autoridades federais.

Bonta alertou contra a concessão de autoridade regulatória exclusiva ao Congresso americano, dado seu impasse anterior em relação à proteção de dados e IA.

O escritório do procurador-geral da Califórnia está reforçando sua expertise interna por meio de seu “programa de supervisão, responsabilização e regulamentação de IA”, disse Bonta.

Chatbots de IA que mantêm conversas sexualmente explícitas com jovens ou os instruem sobre como cometer suicídio são inaceitáveis, afirmou.

Autoridades estaduais também informaram à OpenAI, sediada em São Francisco, que a Califórnia tem um interesse contínuo em seus esforços para manter seus produtos e serviços seguros, depois que o escritório de Bonta ajudou a supervisionar sua reestruturação corporativa no ano passado, disse ele.

O legislativo do estado está analisando um projeto de lei que exigiria que o escritório do procurador-geral estabelecesse um programa para desenvolver expertise em IA.

Falando em uma entrevista conjunta à Reuters, o procurador-geral de Connecticut, William Tong, chamou os danos causados pela IA e pelas mídias sociais de “a luta de proteção ao consumidor do nosso tempo”, que promete ser uma batalha maior do que a dos opioides. “Isso afeta todas as nossas crianças”, disse ele.