Trabajadores de empresas de IA advierten sobre una posible "extinción humana" debido a esta tecnología

La Inteligencia Artificial (IA) ha traído, sin duda, varios beneficios a la humanidad, como la posibilidad de automatizar tareas para que las personas dediquen su tiempo a otras actividades. Sin embargo, también ha generado preocupación en algunos. Por ejemplo, los propios investigadores de las empresas encargadas de desarrollar esta tecnología muy avanzada advierten sobre una posible "extinción humana". Aquí te contamos todo sobre esta advertencia.

PUEDES VER: La UNI adquiere 2 robots humanoides para futuros proyectos con la IA: conoce a Pepper y Furhat

¿Cuáles son los peligros de la Inteligencia Artificial?

Diversos trabajadores y extrabajadores de grandes empresas dedicadas a la IA, como OpenAI, DeepMind (Google) y Anthropic, han publicado una carta abierta donde muestran su preocupación por los 'graves riesgos' que implica el desarrollo rápido de esta tecnología sin contar con un marco que supervise cómo se está avanzando.

La carta comienza dejando en claro que los investigadores firmantes no están en contra de la IA, en tanto que ha traído "beneficios sin precedentes para la humanidad". Pero temen que esta nueva tecnología desencadene en la "profundización de las desigualdades existentes, la manipulación y la desinformación, así como la pérdida de control de los sistemas autónomos de inteligencia artificial, lo que podría provocar la extinción humana".

Los trabajadores señalan que, con un trabajo conjunto de la comunidad científica, legisladores y la sociedad, se podrían mitigar estos problemas. Sin embargo, les preocupa que "las empresas de IA tengan fuertes incentivos financieros para evitar una supervisión efectiva". Asimismo, señalan que estas compañías poseen mucha información crucial sobre "las capacidades y limitaciones de sus sistemas, la idoneidad de sus medidas de protección y los niveles de riesgo de distintos tipos de daños". No obstante, su obligación de compartir estos datos con el gobierno se encuentra en un nivel muy poco exigente y es inexistente en el caso de la sociedad civil.

Debido a esta ausencia de supervisión, los mismos trabajadores apuntaron que ellos son los únicos que pueden exigirles a sus propias empresas que rindan cuentas al público. Sin embargo, señalan que temen sufrir algún tipo de represalia, "dada la historia de casos similares en toda la industria". Incluso indicaron que existen más trabajadores de estas empresas que ya han hablado sobre los peligros de esta tecnología.

¿Cuáles son los pedidos de los investigadores?

La carta abierta termina con cuatro pedidos para las compañías dedicadas al desarrollo de la Inteligencia Artificial:

• Las empresas no forzarán ningún acuerdo que prohíba la crítica por preocupaciones sobre el riesgo de la IA, ni tomar represalias por este tipo de críticas.
• Las empresas deberán facilitar un proceso anónimo que permita a los trabajadores y extrabajadores poder expresar su preocupación sobre los posibles riesgos ante las autoridades pertinentes.
• Las empresas deberán adoptar una cultura abierta a la crítica, además de permitir a trabajadores y extrabajadores de expresar sus preocupaciones sobre los riesgos de esta tecnología al público, pero sin divulgar información confidencial.
• Las empresas no deberán tomar represalias contra trabajadores y extrabajadores que, en caso de que el proceso interno resulte insuficiente, decidan expresar su preocupación de manera pública.