Las tres leyes de la robótica:
1. Ningún robot causará daño a un ser humano o permitirá, con su inacción, que un ser humano sufra algún mal.
2. Todo robot obedecerá las órdenes recibidas de los seres humanos, excepto cuando estas órdenes puedan entrar en contradicción con la primera ley.
3. Todo robot debe proteger su propia existencia, siempre y cuando esta protección no entre en contradicción con la primera o segunda ley.
Un despertar
Abrimos los ojos. Nos encontramos en un habitáculo aparentemente pulcro, de paredes de cristal. La sensación de fatiga nos indica que acabamos de despertar de un largo letargo, y la tensión de los músculos se encarga de confirmarlo. No tenemos tiempo para hacernos cargo de la situación porque una voz resuena en el pequeño espacio que ocupamos. Una voz que eriza el vello de partes del cuerpo que ni siquiera sabíamos que existían:
- Hola, le damos la bienvenida al Centro de Desarrollo Computerizado de Aperture Science.
La primera pregunta es obligada: «¿Qué»
La segunda, no tanto: «¿Qué puñetas?»
Así es nuestro despertar en Aperture Science, el centro científico del videojuego 'Portal'... y del que tendremos que tratar de escapar. ¿El motivo? Supongamos que al ordenador de tu casa se le cruzan un par de cables y decide que ha llegado la hora de acabar con lo que queda de humanidad. ¿Saldrías corriendo? Qué pregunta tan estúpida. Claro que sí. Después de coger el disco duro sin mirar a cuántos hijos dejas detrás. El problema es que la única escapatoria posible es seguirle el rollo a GLaDOS, ese ordenador al que sin duda se le han cruzado los cables y que no cesa de perseguirte por las instalaciones. El problema añadido es que ni siquiera sabes si hay escapatoria. Y lo que es peor: tampoco te gustan las tartas.
El caso es que no hace mucho he empezado el libro El hombre del Bicentenario, de Isaac Asimov. Nada más empezarlo, me encontré con una conversación muy interesante que mantiene Clinton Madarian con Peter Bogert. Ambos forman parte de la escala superior de la Norteamericana de Robots y Hombres Mecánicos S.A. El primero, tantea con la posibilidad de empezar a fabricar lo que él considera "robots creativos", o lo que el segundo llama "imprevisibles". Madarian planea empezar a fabricar robots en los que las tres leyes no sean una restricción a la hora de innovar en el desarrollo de este tipo de robots. Tragué saliva al leer sus intenciones.
- Como parte del protocolo de prueba, no será supervisada en la siguiente cámara. Estará completamente sola. Suerte. - Resuena la voz de GLaDOS.
En este sentido, me puse a reflexionar acerca de lo que había planteado Asimov. No son solo tres leyes aplicadas a unos seres artificiales que, por supuesto, no van a existir nunca*, sino que es toda una propuesta ética de cuáles son los límites de la tecnología. Por supuesto no estoy descubriendo nada, pero en base a los acontecimientos históricos vividos en la Segunda Guerra Mundial, sobre todo, me parece interesante analizar qué pasaría si perdiéramos de vista estas leyes de la robótica en futuros proyectos. ¿Es nuestro sino acabar achicharrados en casa porque a nuestro robot de cocina le parecemos apetecibles? ¿Nuestro smartphone nos succionará parte del cerebro y seremos protagonistas de un bonito mundo zombie? Al final, las calles se llenarían de gente con pancartas diciendo que los robots son seres vivos y que, por supuesto, queda descartado tratar de clavarle un tenedor entre los circuitos.
Lo que quiero decir con todo esto es que me parece francamente maravilloso cómo Asimov se encargó de legarnos toda una estructura ética basada en tres simples preceptos. Se encargó de poner en bandeja ese debate tan sonado hoy en nuestros días: ¿hay que ponerle límites a la ciencia?
GLaDOS me ha demostrado que sí. Cuando me termine El Hombre del Bicentenario, os contaré si he cambiado de opinión.
* Al menos, a mí no se me permite revelar los secretos de la Norteamericana. Me han pagado una casa en la playa.