Peter Hankins es autor del blog Conscious Entities, un blog en el que reflexiona sobre los grandes pensadores y las teorías de la conciencia. El 7 de Diciembre publicaba una interesante reflexión acerca de la conjunción de un par de campos muy de moda dentro de la robótica: robots-soldados y ética robótica. En este post, traduzco gran parte del post que podéis encontrar en inglés en Conscious Entities.

La ética de los robots es un tema que está atrayendo la atención de los medios últimamente. La cuestión es ¿pueden los "robots asesinos" (p.e. robots soldados) autónomos comportarse éticamente, incluso de forma más ética que los propios humanos?

¿Pueden ser los robots agentes éticos de alguna forma? La respuesta obvia es que no, ya que no son realmente agentes; no toman decisiones de verdad por si mismos. Son unas meras máquinas que siguen decisiones tomadas por humanos, no tienen capacidad de tomar juicios acerca de si deben obedecer las reglas o no, y no tienen ninguna responsabilidad moral por lo que hacen.

Por otra parte, los robots son autónomos hasta un cierto punto. Los ejemplos actuales sobre esto son simples, pero no es imposible imaginar un robot guiado por las interacciones con su "silicio", de la misma manera de la que los humanos están guiados por las interacciones con sus neuronas. Después de todo, todavía hay un interesante debate abierto acerca de si nosotros, los humanos, tomamos nuestras propias deciones o simplemente obedecemos las leyes de la biología y la física.

Los "robots asesinos" autónomos levantan ciertos "reparos" que pueden probablemente verse como morales en cierta manera. Las minas de tierra nos pueden parecer repelentes, pero un robot que lleva un arma y elimina sus objetivos parece todavía peor (¿o no?). Creo que parte de la razón es la convicción de que el hacer algo es peor que la omisión de algo; nos parece peor que alguien mate a otra persona que el hecho de que alguien no salve a una persona que podría haber salvado. Esto parece moralmente correcto, pero filosóficamente es difícil hacer una diferenciación clara. Parece que a los médicos les parece mal inyectar algo a un paciente para que entre en un estado vegetativo permanente, pero está bien el dejar de aportar a una persona la nutrición que lo mantiene con vida: racionalmente es difícil de explicar cuál es la diferencia.

Supón que encontramos un tipo de mina de tierra más moral, que solo se activa con una gran presión, de forma que no afecte a los niños, solo vehículos militares pesados. Este planteamiento parece mejor que el de una mina de tierra ordinaria; sin embargo, una máquina automática que es capaz de buscar objetivos militares por iniciativa propia, parece de alguna forma peor que hacerlo "de forma manual", con soldados humanos. Las reglas que evitan a las minas saltar en ciertas situaciones parecen buenas, mientras que las reglas que permiten al robot matar a gente que no mataría de otra forma, parecen peor que las de las minas; sin embargo resulta muy complicado hacer distinción alguna. Un "robot asesino" que escoja sus propios objetivos puede ser el resultado de ofrecer características cybernéticas a una pistola que, de otra forma, se mantendría inerte, o también podrían verse como restricciones de un robot que de otra forma dispararía a todo lo que viera.

En la práctica, los verdaderos desafíos se plantean a partir de la necesidad de enfrentarse con una realidad entremezclada. Un "robot asesino" puede ser programado con una serie de reglas, realizar una serie de chequeos antes ed disparar, y ser diseñado para observar ciertas limitaciones. Seguirá las reglas de forma más rigurosa que un soldado humano, no mostrará miedo y arriegará su propia existencia en lugar de romper las reglas que lo manejan. En esos aspectos, parece que queda claro que los robots pueden sobrepasar a los humanos.

Pero la moralidad práctica viene en dos partes; estudiar que principios aplicar, y adivinar qué narices va a pasar. En el mundo real la segunda parte es la que ofrece más problemas, incluso para los humanos. Puedo conocer perfectamente que es mi obligación defender un cierto puesto hasta que no pueda más; ¿pero ha llegado ese punto? ¿Es el enemigo tan duro que no tengo más esperanzas? ¿Llegarán los refuerzos si me mantengo un poco más? ¿He hecho tanto que mi tarea para conmigo mismo es más importante que mi tarea con respecto a la unidad? Más fundamentalmente, ¿es ese ele enemigo o una unidad de no combatientes? ¿Están tratando de rendirse? Estas cuestiones serán mucho más complicadas de responder para un robot que para un humano.

Estas cosas parecen inevitables. Habrá una gran cantidad de gente trabajando en la interesante pregunta de qué algoritmos implementar, para cualquier tipo de computadora, y cualquier limitación sensorial, el ratio óptimo de enemigos muertos e inocentes salvados, etc. Se referirán a las reglas que emergen de su trabajo como éticas, tal si lo son como si no. Finalmente, esos algoritmos cambiarán el modo de ver de los humanos, por lo que los soldados deberán comportarse igual en las mismas circunstancias, y afectará a nuestra percepción moral. Esto no suena demasiado bien, pero el problema también presenta dos caras aquí. Quizás, en un futuro, el "robot asesino" jefe, estando absorto de considerar de forma exhaustiva las instrucciones humanas para una guerra oportunista, utilice la famosa cita:

"Lo siento, Dave, me temo que no puedo hacerlo..."


[Texto original en inglés: Peter Hankins]
[Traducción: José Carlos Cortizo]