Harry, Wozniak e Hinton lançam manifesto contra superinteligência AI

Grupo de Personalidades e Líderes Globais Preocupados com a Superinteligência Artificial

Um grupo diversificado, incluindo personalidades de destaque e líderes globais, uniu-se para expressar preocupações sobre o desenvolvimento acelerado da superinteligência artificial. O objetivo é garantir que o avanço tecnológico seja feito de forma segura e controlável, evitando potenciais riscos para a humanidade.

Principais Signatários e o Pedido de Suspensão

Entre os signatários estão o príncipe Harry e Meghan Markle, o ex-estrategista de Donald Trump, Steve Bannon, artistas, líderes religiosos e cientistas pioneiros em inteligência artificial. O manifesto exige a suspensão do desenvolvimento de superinteligência até que haja consenso científico e político sobre métodos seguros e controláveis de criação dessas tecnologias.

O Que é a Superinteligência Artificial?

A superinteligência, também conhecida como inteligência artificial geral (AGI), descreve um estágio hipotético em que máquinas poderiam superar os seres humanos em todas as formas de raciocínio, criatividade e tomada de decisão. Diferente da IA atual, usada em tarefas específicas, a superinteligência seria autônoma e autorreflexiva, capaz de aprender, adaptar-se e se reprogramar sem intervenção humana.

Preocupações e Riscos Potenciais

O manifesto reconhece os benefícios da IA na saúde, produtividade e prosperidade global, mas alerta para o potencial de recessões, desigualdades ampliadas, ameaças às liberdades civis e até mesmo o risco de extinção da espécie humana, caso a superinteligência seja desenvolvida sem controle adequado.

A falta de controle humano é apontada como o maior perigo na corrida pela superinteligência.

Reação de Cientistas e Figuras Públicas

O presidente do Future of Life Institute, Max Tegmark, enfatizou a importância de evitar a falta de controle humano. Outros signatários, como Geoffrey Hinton e Yoshua Bengio, alertam para a necessidade de medidas de segurança adequadas, considerando o potencial da IA em causar a extinção humana.

O príncipe Harry expressou a preocupação de que a IA sirva à humanidade, e não a substitua.

Contexto e Relevância

O manifesto se inspira em um pedido semelhante, publicado em 2023, liderado por Elon Musk, e reflete a crescente preocupação com o ritmo acelerado do desenvolvimento da IA. Apesar da falta de resposta das grandes empresas, o manifesto busca pressionar governos a impor limites claros e garantir um futuro mais seguro para a humanidade.