Anthropic: líder de alinhamento vê risco acima de 10% de IA matar todos

Um pesquisador da Anthropic afirmou que a inteligência artificial tem mais de 10% de chance de "matar todos os humanos", de acordo com a CNBC. A declaração foi feita depois que um colega da empresa pediu demissão alegando preocupações com segurança em IA, conforme relataram CNBC, Forbes, Newsweek e Scroll.in nesta terça-feira (9).

A Forbes atribuiu o alerta ao responsável pela área de alinhamento da Anthropic — a divisão encarregada de fazer com que sistemas de IA sigam objetivos definidos por humanos. O Hindustan Times colocou em foco dois nomes ligados ao episódio: Jacob Coxon e Evan Hubinger.

O que dizem os veículos

O Gizmodo publicou que o pesquisador que deixou a empresa afirmou que "as pessoas que constroem IA acreditam sinceramente que isso pode matar todos nós". A NDTV, por sua vez, destacou uma versão do alerta com prazo: a de que a IA poderia eliminar a humanidade até o fim da década.

Segundo o Hindustan Times, o responsável pela área de segurança da Anthropic reiterou publicamente, após a saída do colega, que a preocupação com um cenário de extinção é levada a sério dentro da empresa. A Newsweek e o Scroll.in também registraram que a demissão foi motivada por divergências sobre segurança em IA.

Repercussão

O caso foi noticiado por pelo menos nove veículos em menos de 12 horas, incluindo publicações de tecnologia e de economia nos Estados Unidos, na Índia e na Indonésia. A CNBC e a Forbes trataram o episódio como um sinal de tensão interna em uma das principais empresas de IA do mundo, conhecida por posicionar a segurança como parte central do seu discurso público.

Os veículos consultados não detalharam de forma convergente qual dos dois pesquisadores citados pelo Hindustan Times deixou a empresa e qual fez a estimativa de risco acima de 10%.