01.08.2009 - Reportagem da revista ISTOÉ, edição de agosto de 2009 

Robôs se rebelarem contra seres humanos com a finalidade de exterminá-los é tema recorrente em livros e filmes de ficção científica. O que é novidade, e realidade aterradora, é o fato de engenheiros de robótica de todo o mundo terem se reunido, na semana passada, na Asilomar Conference Grounds, realizada nos EUA, para discutir os riscos do surgimento de uma verdadeira geração de "robopatas" - máquinas perigosas e a perda de seu controle pelo homem

Os cientistas descartam, é claro, a possibilidade de elas adquirirem por si mesmas tal patamar de comportamento, porque isso significaria admitir, absurdamente, que robô pode ter livrearbítrio. Mas o grande receio dos pesquisadores, na verdade, é a possibilidade de esses robôs serem manipulados por criminosos comuns, como já os são pelos governos de alguns países em momentos de guerra. "O que um serial killer poderia fazer, por exemplo, com um sistema robótico de simulação de voz?", indaga Eric Horvitz, pesquisador da Microsoft e presidente da Associação para o Avanço da Inteligência Artificial. Ele responde: "Precisamos refletir sobre consequências perigosas. Cientistas da computação devem ser responsabilizados se máquinas superinteligentes saírem do nosso controle."

Como não é de hoje que essas máquinas vêm sendo desenvolvidas, cabe perguntar por que tais preocupações - e temores - brotam justamente nesse momento. Sobre dois robôs, em particular, recai a responsabilidade dessa síndrome do medo. Um deles, desenvolvido nos EUA pela empresa Williow Garageta, ostenta atualmente o grau máximo de inteligência e independência: quando a sua bateria o alerta que está zerando, é ele quem sai procurando por conta própria uma tomada. Nessa busca, é capaz de abrir portas - e é impulsivo o suficiente para arrombá-las se for necessário. O mais incrível: também é ele quem liga o seu fio na tomada. Tudo se processa em seu "organismo" através de computadores (cérebro), sensores (membros) e microcâmeras (olhos para identificação de saídas elétricas). O outro gênio do momento no campo da inteligência artificial, e que leva os engenheiros a refletir se não é chegada a hora de pisar no freio do acelerado desenvolvimento da robótica, é a máquina que tem a fantástica capacidade de "aprender" sozinha. Criada pelo cientista Rodney Brooks, do Instituto de Tecnologia de Massachusetts, nos EUA, impressiona pelo seu chip que está programado não para executar determinadas tarefas, mas, isso sim, para captar e reproduzir movimentos que seus sensores detectam. Assim, através desse "chip autodidata", está habilitada a repetir compulsivamente alguns movimentos humanos: ao ver alguém martelando um prego, quer martelá-lo. Ao ver alguém matando, pode querer matar também. "E se ela, por algum motivo, sair do controle de pessoas do bem?", indaga Horvitz.

Seria uma atitude no mínimo reacionária negar a importância de robôs na evolução da humanidade e na melhoria da qualidade de vida. Desde que saíram dos laboratórios, sobretudo nos EUA e no Japão, as máquinas de inteligência artificial se espalharam em empresas, bancos, escolas, supermercados, hospitais e asilos. Esses robôs, nascidos para o bem, são refratários a tentativas de serem pervertidos - não foram programados para a agressividade. O problema, no entanto, é que o próprio homem, no poço sem fundo de seu instinto de criar tecnologias cada vez mais fantásticas, acaba ultrapassando limites. Há cerca de meio século o matemático britânico I.J. Good já alertava para o perigo daquilo que chamava de "explosão nervosa" da inteligência artificial. Atualmente, até mesmo um dos maiores entusiastas dessa forma de inteligência, o cientista Tom Mitchell, da Universidade Carnegie Mellow, revê sua boa fé: "Fui muito otimista." (fim)

----------------------------------------------------------------------------------------------------------------------

Lembrando...

Sinal dos Tempos: Robôs matadores anunciam a guerra do futuro

18.08.2007 - Os robôs guerreiros já entraram em ação no Iraque, e o exército dos Estados Unidos planeja substituir um terço de seus veículos blindados e armas por robôs, até 2015. Essas máquinas de matar podem um dia vir equipadas de consciência artificial - o que poderia até dotá-las da capacidade necessária a desobedecer ordens imorais.

Os mais recentes recrutas do exército norte-americano têm um metro de altura, ostentam camuflagem em tons de deserto e vêm equipados com metralhadoras M240. Movimentam-se sobre lagartas e - graças a cinco câmeras - podem ver até mesmo no escuro.

Esses combatentes que não conhecem o medo foram colocados em ação no Iraque, na metade de junho, sem que o grande público dedicasse muita atenção à novidade. Trata-se de três soldados robotizados cuja tarefa é perseguir insurgentes. Como se orientados por uma mão invisível, eles avançam na direção de seus alvos e disparam suas metralhadoras contra eles. Trata-se do futuro da guerra - e já está presente.

"Estamos falando do primeiro robô equipado com armas na história na guerra", diz Charles Dean, engenheiro da Foster-Miller, a empresa que fabrica os novos aparelhos, em Waltham, Massachusetts. Dean e os demais 70 funcionários de seu departamento estão ansiosos por saber como suas três criaturas estão se saindo na frente de batalha. Porque os três robôs, apelidados Swords (espadas), foram destacados para uma missão secreta, os criadores das máquinas não sabem se foram usados para matar combatentes inimigos no campo de batalha.

Ao que parece, é apenas questão de tempo antes que os três robôs de combate recebam reforços. As forças armadas norte-americanas estão no momento testando o Gladiator, um veículo de combate não tripulado desenvolvido pelos engenheiros do Instituto de Robótica da Universidade Carnegie Mellon, em Pittsburgh, Pensilvânia. O Gladiator pesa mais de uma tonelada e está equipado de pneus de borracha que permitem que galgue encostas com até 60 graus de inclinação. As forças armadas norte-americanas já estão instalando câmeras de mira e uma metralhadora M240 no protótipo.

"Já fizemos muitos disparos com a metralhadora", disse o coronel Terry Griffin, comandante do programa conjunto de robôs de combate do exército e do corpo de fuzileiros navais norte-americanos. Caso os novos testes confirmem o sucesso, uma versão de quatro rodas do Gladiator pode ser enviada ao Iraque no ano que vem - presumindo que ainda existam soldados norte-americanos no país.

De acordo com Griffin, o robô de combate tem a capacidade de dispersar grupos de indesejáveis. Há três estágios diferentes de uso possível de força: primeiro, a máquina faz um aviso por meio de alto-falantes; em seguida, dispara balas de borracha; por fim, começa a usar a metralhadora.

Mais de 50 anos depois que o escritor Isaac Asimov argumentou, em seu clássico romance de ficção científica Eu, Robô, que jamais deveria ser permitido que um robô ferisse seres humanos, o desenvolvimento de máquinas de matar se tornou inevitável. O Swords e o Gladiator servem como arautos de uma nova forma de guerra, na qual a tarefa de matar será cada vez mais atribuída a máquinas.

O exército dos Estados Unidos está desenvolvendo diversos modelos de robôs de combate. De acordo com um memorando interno do exército, "máquinas armadas estão encontrando lugar no campo de batalha moderno e serão presença generalizada nos campos de batalha futuros". O orçamento do Pentágono já inclui até US$ 200 bilhões para o desenvolvimento de um programa de modernização conhecido como "Sistema de Combate Futuro", sob o qual robôs substituirão um terço dos veículos blindados e das armas do exército norte-americano até 2015.

As formas automatizadas de guerra também estão exercendo influência em Israel, cujas forças armadas empregam robôs na fronteira de 60 quilômetros de extensão entre o país e a Faixa de Gaza. O sistema See-Shoot desenvolvido pela Rafael, uma fábrica de armas israelense, é estacionário e envolve metralhadoras e câmeras, com alcance de até 1,5 mil metros.

Do ponto de vista militar, existem muitos motivos para promover o uso crescente dos soldados de aço. Para começar, eles não sentem medo ou fadiga. Os robôs matam sem hesitar e, diferentemente dos soldados humanos, sua perda é apenas financeira. Um novo Swords custa cerca de US$ 150 mil. Além disso, os políticos e os generais não precisariam mais se preocupar com protestos públicos em caso de baixas excessivas. Quem lamentará um soldado metálico destruído?

No entanto, o controle desses soldados mecânicos cabe estritamente a operadores humanos. Vai demorar algum tempo para que os matadores de forma humanóide retratados em filme como Robocop e O Exterminador do Futuro estejam disponíveis para atacar seres humanos. "Mas não existem barreiras científicas ao desenvolvimento de robôs de combate autônomos", diz Ronald Arkin, do Instituto de Tecnologia da Geórgia, em Atlanta. "As partes desse todo estão sendo desenvolvidas nesse exato momento".

Em seu escritório no instituto, Arkin, um homem grisalho e de aparência simpática, investiga maneiras de impedir que os cenários sombrios propostos nos filmes de ficção científica se tornem realidade. No momento, ele vem realizando uma pesquisa via Internet para determinar como oficiais das forças armadas, políticos, pesquisadores de robótica e pessoas comuns se sentem sobre máquinas autônomas dotadas da capacidade de matar.

Quais seriam as regras éticas que elas seguiriam quando enviadas à guerra, por exemplo? Para ajudar a enfrentar essa questão, Arkin está desenvolvendo um software que poderia ser usado para programar essas regras na memória das máquinas, de forma a dotar os soldados de aço de uma forma de "consciência".

Fonte: Terra notícias