As leis da Robótica de Isaac Asimov (1902-1992)

22 Novembre 2019

 

As leis da Robótica de Isaac Asimov (1902-1992)

No filme O homem bicentenário o robot NDR Andrew apresenta as três leis da robótica.  São elas: 1) Um robot não pode ferir um ser humano ou por inação; 2) Um robot deve obedecer às ordens que lhe foram dadas por seres humanos, exceto nos casos e que tais ordem contrariem a primeira lei; e 3) robot deve proteger sua própria existência, desde que tal proteção não entre em conflito com a primeira e segunda leis. Uma quarta lei, é acrescentada posteriormente pelo autor, a chamada Lei Zero: Um robot não pode fazer mal à humanidade e nem, por inação, permitir que ela sofra algum mal (link).

Estas leis seriam aplicáveis no contexto atual? Asimov, de certo modo já intui a complexidade decorrente da ação dos robots, mesmo de forma incipiente, e elabora tais regras considerando certas ações destas máquinas construídas com um nível de inteligência artificial, poderiam alcançar certa autonomia, deixando de lado a própria programação. Assim, ele formula tais leis que, no seu conjunto, possuem um conteúdo ético. Obviamente, que os tempos mudaram e o nível de aplicação dessas leis são muito limitadas, uma vez que são intuídas desde o contexto da ficção científica. Mesmo que vigorassem atualmente, como toda a ética, não resolveriam todos os problemas e dilemas, mas abrem a discussão neste campo.

A Engineering and Physical Sciences Research Council (EPSRC), ao comentar as leis de Asimov afirma: «Embora sejam um ponto de partida útil para a discussão, as regras de Asimov são dispositivos fictícios. Não foram escritos para serem usadas na vida real e não seria prático fazê-lo, até porque simplesmente não funcionam na prática. (Por exemplo, como um robot pode conhecer todas as formas possíveis de prejudicar um humano? Como um robot pode entender e obedecer a todas as ordens humanas, quando até as pessoas ficam confusas sobre o que as instruções significam?). As histórias de Asimov também mostraram que, mesmo em um mundo de robots inteligentes, suas leis sempre podiam ser evitadas e lacunas encontradas. Mas, finalmente, e mais importante, as leis de Asimov são inadequadas porque tentam insistir em que os robots se comportem de certas maneiras, como se fossem pessoas, quando na vida real são os humanos que projetam e usam os robots que devem ser os sujeitos reais de qualquer lei».

Partindo da reflexão incitada pelas leis de Asimov, seus limites e da necessidade de ter princípios orientadores para designers, construtores e usuários de robots, um grupo de expertos do EPSRC e da Arts and Humanities Research Council Robotics Retreat formulou estes princípios:

1) Os robots são ferramentas multiuso. Não devem ser projetados exclusiva ou principalmente para matar ou prejudicar seres humanos, exceto no interesse da segurança nacional.

2) Humanos, não robots, são agentes responsáveis. Os robots devem ser projetados; operados na medida do possível para cumprir as leis e direitos e liberdades fundamentais existentes, incluindo a privacy.

3) Robots são produtos. Eles devem ser projetados usando processos usando processos que assegurem sua segurança e proteção.

4) Robots são artefatos fabricados. Eles não devem ser projetados de maneira enganosa para explorar usuários vulneráveis; em vez disso, a natureza da máquina deve ser transparente.

5) A um robot se deve atribuir uma pessoa com responsabilidade legal.

Vincent C. Müller [link1; link2] faz uma interessante crítica desses cinco princípios em seu texto Legal vs. ethical obligations – a comment on the EPSRC’s principles for robotics, ao refletir sobre a necessidade de diferenciar obrigações legais e exigências éticas. Muller retoma estes princípios, busca reestruturá-los em bases legais e éticas e evidencia também os limites existentes neles, uma vez que este campo do saber é recente e aberto às novas questões éticas e legais.

Portanto, a validade dos princípios de Asimov não está, hoje, na sua aplicação prática, mas na intuição de que é necessário, neste novo campo do saber, avançar cada vez mais, preparando-se teórica e tecnicamente para formular princípios que considerem tanto a positividade e os avanços desta nova área, de modo que se expanda, respeitando sempre o princípio do agir e viver bem entre tecnologia e sociedade.

p. Rogério Gomes, CSsR

 

 

Nessun commento

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *