A inteligência artificial está a avançar a uma velocidade que começa a preocupar até algumas das pessoas que estão a construí-la. Nas últimas semanas, investigadores de empresas como a Anthropic e a OpenAI vieram alertar para os riscos de sistemas cada vez mais autónomos e capazes de melhorar a própria inteligência.

O alerta mais extremo partiu de Jacob Coxon, antigo funcionário da Anthropic, que saiu da empresa acusando a indústria de estar a correr demasiado depressa em direcção à superinteligência. Coxon afirma mesmo que a IA pode matar toda a humanidade até ao final desta década. Entretanto, Dario Amodei, CEO da Anthropic, defendeu que a indústria deve abrandar o desenvolvimento dos modelos mais avançados, uma posição apoiada por Sam Altman e Elon Musk.

O que está por trás deste receio? Quão realista é a possibilidade de uma inteligência artificial escapar ao controlo humano? E caso conseguisse exterminar a humanidade, como o faria? 

Neste episódio do Hoje, falamos com Nuno Moniz, especialista em inteligência artificial, investigador na Universidade de Notre Dame, nos Estados Unidos, para perceber o que sabemos já sobre estes riscos, o que continua a ser especulação e se a corrida para construir sistemas cada vez mais poderosos pode estar a avançar mais depressa do que a nossa capacidade para torná-los seguros.