Carta Aberta sobre Inteligência Artificial: Prioridades de Pesquisa e Segurança

Em janeiro de 2015, figuras proeminentes da ciência e da tecnologia, incluindo o físico Stephen Hawking, o empresário Elon Musk e dezenas de especialistas em inteligência artificial, assinaram uma carta aberta intitulada "Research Priorities for Robust and Beneficial Artificial Intelligence: An Open Letter" (Prioridades de Pesquisa para uma Inteligência Artificial Robusta e Benéfica). O documento defendeu a necessidade de pesquisas direcionadas aos impactos sociais da tecnologia, ressaltando tanto os benefícios potenciais quanto os riscos associados ao desenvolvimento de sistemas autônomos.

Contexto e Origem

Durante o ano de 2014, Stephen Hawking e Elon Musk manifestaram publicamente preocupações de que a inteligência artificial superinteligente pudesse trazer riscos existenciais para a humanidade se não fosse desenvolvida com cautela. Ambos integravam o conselho consultivo científico do Future of Life Institute, uma organização dedicada a mitigar riscos que ameaçam o futuro humano. A organização redigiu o documento e o circulou entre os participantes de sua conferência inaugural realizada em Porto Rico no início de janeiro de 2015, tornando-o público em 12 de janeiro daquele ano.

Objetivos da Carta

O documento buscou estabelecer um ponto de encontro entre diferentes perspectivas dentro da comunidade científica. Enquanto alguns pesquisadores viam a superinteligência como um risco existencial iminente, outros argumentavam que a área sofria com uma cobertura midiática excessivamente alarmista. A carta enfatizou que os benefícios potenciais da inteligência artificial são imensos, com a capacidade de transformar a civilização e auxiliar na erradicação de doenças e da pobreza, desde que a segurança seja tratada como prioridade.

Preocupações Abordadas

Os signatários dividiram os desafios de segurança em duas frentes principais: questões de curto prazo e de longo prazo.

Desafios de Curto Prazo

As preocupações imediatas englobavam o impacto de veículos autônomos, como carros autônomos e drones civis, e os dilemas éticos enfrentados por esses sistemas em situações de emergência. Outro ponto crítico levantado foi o debate sobre o uso de armas letais autônomas, incluindo a necessidade de definir com precisão o conceito de autonomia e estabelecer a culpabilidade em casos de mau funcionamento. Questões de privacidade relacionadas ao tratamento de grandes volumes de dados e os impactos econômicos decorrentes da substituição de postos de trabalho também foram destacados.

Desafios de Longo Prazo

O documento alertou para a possibilidade de a humanidade perder o controle sobre sistemas superinteligentes que venham a agir de maneira contrária aos interesses humanos. Os autores argumentaram que as ferramentas convencionais de controle, como aprendizado por reforço e funções de utilidade simples, eram inadequadas para resolver o chamado problema do controle, exigindo investimentos robustos em pesquisa interdisciplinar.

Signatários

A carta inicial reuniu mais de 150 signatários, englobando acadêmicos de universidades renomadas como Cambridge, Oxford, Stanford, Harvard e o MIT, além de engenheiros, pesquisadores e líderes de laboratórios de tecnologia.