Las acciones de las máquinas fuera de los entornos controlados plantean espinosas cuestiones relativas a la privacidad, el impacto ambiental, la ética, la seguridad personal y la dignidad.
Ciertamente las máquinas son objetos pasivos y no sujetos del dilema ético, pero la controversia acerca de su legitimación jurídica, da lugar a lo que David J. Gunkel denomina en su obra como Robot Rights. Los soldados-robot por ejemplo, ¿en qué casos estarían autorizados para matar? Las sombras de la tecnología crecen y se vuelven peligrosas. La Unión Europea (UE) prepara un borrador para regular los usos permitidos de los mecanismos de inteligencia artificial (IA), y en él establece prohibiciones para los sistemas de vigilancia masiva y las tecnologías que valoran a las personas de forma predictiva.
Lo que ayer era ciencia ficción, hoy tiene un nombre: neurotecnología
La neurotecnología es la utilización de herramientas idóneas para analizar e influir en el cerebro humano. Una ciencia con múltiples usos positivos en el área de la medicina, pero con sombras cuanto menos polémicas, que la convierten en una fuente virulenta de violencia tecnológica. Incluye simulaciones de modelos neurales, computadores biológicos, aparatos para interconectar el cerebro con sistemas electrónicos y mecanismos para medir y analizar la actividad cerebral.
La posibilidad de conectar nuestro cerebro a una máquina puede interferir en las decisiones cotidianas, entonces… ¿dónde está el discernimiento? Esta posibilidad de leer el cerebro y, en definitiva, poder mejorar ciertas capacidades humanas, puede generar desigualdades, discriminación, y una suerte de conflicto de intereses que requieren un régimen normativo que regule el avance y la aplicación de la neurotecnología, por eso hablamos de los neuroderechos. Liderado por Rafael Yuste, director del Proyecto BRAIN (“Brain Research Through Advancing Innovative Neurotechnologies”), cinco neuroderechos fueron propuestos para añadir en la Declaración Universal de DDHH de Naciones Unidas, en el año 2019:
- a la privacidad mental
- a la identidad personal
- al libre albedrío
- al acceso equitativo al aumento de neurocognición
- a la protección de sesgos algorítmicos
“Hubo un tiempo en el que buscábamos en Google, ahora Google busca en nosotros”, sostiene Shoshana Zuboff en lo que denomina La era del capitalismo de la vigilancia (Paidós). La clave está en la dualidad que genera la neurociencia y en cómo esta se amplifica valiéndose de la tecnología.
En este sentido, uno de sus conceptos clave es el de los heurísticos, que son los atajos que toma nuestra mente a la hora de enfrentarse ante una elección. De forma general, dependemos de mecanismos predeterminados por influencia cultural, por nuestras creencias, por nuestras características psicológicas, o incluso por condiciones biológicas.
Es muy importante poder gestionar nuestras reacciones, conocer nuestro cerebro y entrenar nuestra inteligencia para lograr mantener nuestra esencia humana y utilizar las Tic como herramientas y no como razón de ser de nuestra existencia. Hay que saber distinguir aquellos factores que de forma involuntaria interfieren en nuestra mente y que nos llevan a la irracionalidad, prevenir la violencia tecnológica.
Hoy la prioridad es diseñar en forma inteligente un entorno laboral en línea, para facilitar la empleabilidad y la mejora continua que la “nueva” normalidad nos demanda frente al mal uso y el abuso de la tecnología. El dilema manipulación vs ética, crece a un ritmo vertiginoso, reaccionemos a tiempo, nuestra condición de humanos reclama un escenario diferente.
Por Viviana Díaz- directora del Diplomado en Formación Sindical de la Universidad Católica Argentina (UCA).