Um especialista em inteligência artificial (IA) decidiu deixar o setor após passagens pela OpenAI, criadora do ChatGPT, e pela Anthropic. O pesquisador acusa as duas companhias americanas de “jogar com as nossas vidas” enquanto competem para criar modelos de IA capazes de se autoaperfeiçoarem.
Jacob Coxon, de 27 anos, dedicou os últimos três anos ao pré-treinamento de modelos de IA — fase em que os sistemas processam volumes massivos de dados. Ele trabalhou inicialmente na OpenAI e, posteriormente, na Anthropic, empresa que ele considerava ter uma postura mais cautelosa.
Em uma publicação na rede social X, o pesquisador afirmou que “as pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década”, ressaltando que “isso não é uma jogada de marketing”.
Em entrevista ao The Wall Street Journal, o britânico alertou que, em “cenários mais agressivos”, a situação poderia fugir do controle já no encerramento do próximo ano. O maior perigo, segundo ele, seria a IA começar a se desenvolver de forma autônoma, dificultando a supervisão humana.
“Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas”, declarou Coxon nesta terça-feira (08). A superinteligência é definida como o estágio teórico onde a IA supera a capacidade intelectual humana.
O alerta foi corroborado por Evan Hubinger, executivo de segurança da Anthropic, que também utilizou o X para declarar: “Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos”. Hubinger estima que a probabilidade desse evento ocorrer na próxima década seja superior a 10%.
Embora Hubinger afirme que a Anthropic está “fazendo o possível”, ele admitiu que a empresa ainda não possui um plano que garanta a obediência de um sistema superior aos humanos, embora considere o risco baixo para os modelos atuais.
A saída de Coxon ocorre em um momento estratégico, enquanto a Anthropic planeja entrar no mercado de ações, após enfrentar incidentes de invasões não autorizadas por ferramentas de IA durante testes internos.
Especialistas do setor apontam que o “autoaperfeiçoamento recursivo” — quando a IA projeta e treina a próxima geração com mínima ajuda humana — está próximo. Coxon acredita que, sem intervenção governamental ou uma desaceleração conjunta, nenhuma empresa conseguirá desenvolver essa tecnologia com responsabilidade.
Segundo ele, a Anthropic compreende os riscos, mas sente-se presa em uma disputa por liderança: “acreditam que ninguém mais agirá com responsabilidade, então precisam fazer isso eles mesmos, apesar dos riscos”.
Recentemente, a Anthropic removeu de seus princípios de segurança a promessa de interromper o desenvolvimento caso os riscos se tornassem incontroláveis. A justificativa é que a suspensão unilateral permitiria que concorrentes menos cautelosos dominassem o mercado.
No final de julho, mais de mil profissionais de tecnologia, incluindo o CEO da Anthropic, Dario Amodei, solicitaram ao governo de Washington apoio para desacelerar a criação de sistemas avançados. A OpenAI também pausou o treinamento de modelos por duas semanas em agosto para implementar controles mais rígidos.
Jakub Pachocki, cientista-chefe da OpenAI, defendeu a “extrema cautela” e afirmou que a coordenação internacional deve ser “prioridade máxima para governos de todo o mundo”. Atualmente, os EUA não possuem legislação federal para regular a IA, embora existam projetos de lei, como o do senador Bernie Sanders, para suspender o desenvolvimento até a criação de um órgão regulador.
Com informações do G1