Google cierra el consejo de ética para IA por otra “rebelión” de empleados

Google ha cancelado el consejo de ética para IA creado para la recepción de sugerencias que ayudaran a determinar la posición a adoptar por el gigante de Internet en el uso de estas nuevas tecnologías o como oficialmente se anunció, para “guiar el desarrollo responsable de la IA” en Google.

El consejo de ética para IA ha durado apenas una semana desde su creación oficial el 26 de marzo. El Advanced Technology External Advisory Council (ATEAC) ha sido polémico desde el principio, tanto por su enfoque y funcionamiento como por sus componentes y ha tenido fuerte contestación interna.

El consejo estaba compuesto de ocho miembros externos y tenía previsto reunirse cuatro veces al año para emitir sus evaluaciones en un trabajo no remunerado y seguramente con poco tiempo de trabajo como para conocer los proyectos avanzados y complejos en los que está trabajando Google.

Además, la elección de sus componentes no ha sido la más adecuada, según los empleados de Google que han protestado. Uno de ellos dimitió antes de empezar pensando que “no era el foro adecuado” y el mismo presidente, ha recibido 2.300 firmas de rechazo por su posición pública homófoba sobre personas transexuales y por la negación del cambio climático. La presencia de otro de los miembros, CEO de una compañía de aviones no tripulados, también ha sido criticado por su potencial interés ante el uso militar de drones.

En estas circunstancias, pensando que este consejo traía más problemas que soluciones, Google ha optado por la prudencia y lo ha cancelado según informan desde Vox: “Está claro que en el entorno actual, ATEAC no puede funcionar como queríamos. Así que lo hemos disuelto y volveremos a la mesa de dibujo. Continuaremos siendo responsables en nuestro trabajo en los temas importantes que la IA plantea y encontraremos otras maneras de obtener opiniones externas sobre estos temas”.

¿Deben las grandes tecnológicas participar en programas militares IA?
Es la pregunta del millón y está bastante clara si dejamos a un lado el gran negocio que supone para la cuenta de resultados de las compañías que las desarrollan.

El pasado verano, Google descartó participar en el Projecto Maven (un programa militar de inteligencia artificial y aprendizaje automático impulsado por el Departamento de Defensa de Estados Unidos) tras la “rebelión” de más de 6.400 empleados. Otro grupo de empleados, este de Microsoft, publicaron una carta abierta en la que expresaron su oposición a que su compañía optara a un contrato para crear servicios en la nube en programas militares IA para el Departamento de Defensa de Estados Unidos.

Amazon también se ha enfrentado a duras críticas por suministrar tecnología de reconocimiento facial a las fuerzas del orden de Oregón y Orlando, en documentos obtenidos por la Unión Estadounidense de Libertades Civiles mediante una petición por la Ley de Libertad de Información, usada para vigilancia masiva y que podría afectar sobre todo a los colectivos y comunidades más vulnerables, personas que no son blancas e inmigrantes.

Todos estos grupos de empleados han contado con el apoyo de la organización no gubernamental fundada por investigadores preocupados por las armas autónomas, Committee for Robot Arms Control (ICRAC). También por un importante número de científicos y académicos (300 expertos en robótica, inteligencia artificial, relaciones internacionales, seguridad, ética y derecho) que pusieron el dedo sobre la llaga y en el punto de mira a todas las tecnológicas señalando “una peligrosa alianza entre la industria tecnológica privada, actualmente en posesión de grandes cantidades de datos personales confidenciales recabados de personas de todo el mundo, y el ejército de un país”.

Estos 300 sí que serían un buen plantel para un consejo de ética para IA de cualquier tecnológica. Lo demás… cuestión de negocio. Al menos, Google lo ha intentado. Otros como Microsoft, ya han dicho que mantendrán contratos y optarán a otros.

Ver información original al respecto en Fuente>