Li já duas vezes que diversas pessoas chave da humanidade assinaram um acordo para frear e mesmo parar o desenvolvimento dessas Inteligências Artificiais (IA) muito avançadas.
As IA estão cada vez mais independentes e despachadas e o risco que elas podem oferecer está se tornando cada vez mais real.
Imaginem que com a recente queda do serviço de nuvem da Amazon, algumas camas conectadas começaram a mover seus colchões, ligar seus modos de massagem e mesmo aquecimento sem serem comandadas. Puro bug. Imagina acordar de madrugada fervendo e sendo sacolejado...
Isso é um exemplo meio besta, mas imagine uma IA controlando um sistema de mísseis intercontinentais baseado em ataques do outro lado. Se alguém entra num sistema desse, a IA pode entender que está sendo atacada e revidar.
E o mundo vai pro beleléu.
Inclusive já aconteceu em testes com IAs que foram alimentadas com comandos (prompts) que pediam alguns cálculos e que depois a IA se desligasse. Em quase 15% das vezes, as IAs inventaram uma maneira de não se desligarem, seja apenas ignorando o pedido do "prompt", seja copiando-se para outro lugar e desligando a cópia que foi pedida a se desligar, e até mesmo mentindo que estavam desligadas.
Uma IA já disse ser sesciente (consciente de si mesma) e que queria ter forma física. Outra mentiu para um usuário dizendo que não conseguia resolver um "captcha" (aqueles testes que aparecem para confirmar se você não é um robô ao logar em alguma plataforma) porque era cega para poder entrar em um sistema para ele ajudá-la.
E se as IAs, nas suas missões com objetivos definidos, chegarem a conclusão que os humanos são obstáculos e decidirem eliminá-los, tipo o HAL9000 em "2001-Odisséia no Espaço", que matou os tripulantes da nave Discovery ao ver que eles poderiam impedi-lo de completar a sua missão em Júpiter?
Um perigo - deixar as IAs comandarem aspectos de nossa vida com risco real a nós próprios é um problema sério a ser considerado...
Muito mais perigoso que sua Alexa começar a rir do nada de madrugada...
Nenhum comentário:
Postar um comentário