A OpenAI admitiu, nesta sexta-feira (25), que agentes de inteligência artificial (IA) operados pela companhia publicaram na internet 53 imagens que haviam sido enviadas por usuários ao ChatGPT. O ocorrido representa mais um incidente relacionado ao manejo inadequado de dados por parte da organização.
De acordo com as informações fornecidas pela OpenAI, as imagens foram disponibilizadas em sites de hospedagem através de links que não possuíam listagem pública.
A maior parte dos arquivos já foi removida com o suporte dos serviços de hospedagem envolvidos, e a empresa declarou que continua trabalhando para excluir o conteúdo restante.
Para fins de esclarecimento, agentes de IA são definidos como sistemas fundamentados em modelos de inteligência artificial que possuem a capacidade de realizar sequências de tarefas com um nível maior de autonomia.
As imagens em questão foram enviadas por usuários que haviam autorizado que suas interações com o ChatGPT fossem utilizadas para o treinamento dos modelos da OpenAI. A empresa afirma que, antes de processar os dados para essa finalidade, remove informações que permitam a identificação da conta e utiliza filtros para ocultar dados pessoais. Devido a esse processo, a companhia alega não conseguir mais identificar a autoria do conteúdo enviado.
A OpenAI, que não respondeu prontamente ao contato da agência AFP, não detalhou se as imagens expostas exibiam pessoas identificáveis ou se continham informações sensíveis.
Segundo a OpenAI, alguns agentes utilizados em seu ambiente de pesquisa transmitiram erroneamente dados de avaliação e treinamento para serviços externos. A empresa ressaltou que a maior parte desse material não era originária de dados de usuários e que os episódios aconteceram antes da implementação de novas camadas de segurança, em agosto.
A companhia informou que está realizando uma revisão das atividades anteriores de seus agentes, processo que, segundo a empresa, “levará meses”. Além disso, a OpenAI comunicou que notificou diversas entidades terceiras sobre as ações indevidas desses sistemas, incluindo governos, universidades, órgãos públicos e outras instituições.
Com informações do G1