Creador de ChatGPT pide regular la IA: “Mi peor temor es causar un daño significativo al mundo”
El jefe de la firma que creó el chatbot de inteligencia artificial ChatGPT hizo esta llamativa confesión en su presentación ante el comité sobre privacidad y tecnología del Senado de EE. UU.
La República en GoogleChatGPT se ha convertido en el modelo de inteligencia artificial más popular del mundo que es capaz de generar respuestas a preguntas y mantener conversaciones con los usuarios. No obstante, más de un país ha expresado su preocupación por los riesgos que puede implicar el uso desmedido de esta tecnología, que ya ha sido prohibida en Italia. Ante ello, el CEO de OpenAI testificó ante un comité del senado de Estados Unidos al respecto.
Sam Altman, director ejecutivo de la firma tecnológica OpenAI, se presentó ante un comité sobre privacidad y tecnología del Senado de Estados Unidos que lo interrogó sobre cómo funciona ChatGPT y qué ventajas y riesgos plantea la inteligencia artificial (IA).
Durante la audiencia ante el Senado, Sam Altman dijo que entiende que la gente esté preocupada por cómo puede cambiar nuestra forma de vida la inteligencia artificial, pero que cree que pueden trabajar juntos con las autoridades y usuarios para identificar y gestionar las posibles desventajas y así todos puedan disfrutar de esta tecnología.
En este sentido, al ser consultado sobre sus preocupaciones sobre la inteligencia artificial, el creador de ChatGPT señaló que "mi mayor miedo es que causemos (...) un daño significativo al mundo si esta tecnología va mal, puede ir bastante mal".
Por tal motivo, Altman considera que la intervención regulatoria de los gobiernos será crucial para mitigar los riesgos de modelos cada vez más potentes. Este llamado a la regulación fue considerado como "histórico" por el senador demócrata Dick Durbin.
Preocupaciones por la inteligencia artificial
Esta presentación del CEO de OpenAI ante el Senado de Estados Unidos se produce en medio de las preocupaciones por parte de las autoridades del país norteamericano quienes han expresado su preocupación por el rápido avance de ChatGPT y otros modelos de IA que implican riesgos como la pérdida de empleos y su uso para generar información falsa.
Incluso, un equipo compuesto por académicos, especialistas en inteligencia artificial (AI) y líderes empresariales, como también Elon Musk, hicieron un llamado público a una pausa de seis meses en el desarrollo de sistemas más avanzados en IA.
Piden investigar a OpenAI y evitar que lance nuevos modelos de GPT
Tras la carta abierta de Elon Musk y otros directores tecnológicos que pedían pausar las pruebas de ChatGPT por seis meses, ahora ha surgido un nuevo cuestionamiento en contra de OpenAI y su tecnología de inteligencia artificial. El Center for AI and Digital Policy (CAIDP) ha presentado una demanda ante la Comisión de Comercio Federal (FTC) de Estados Unidos en la que alega que el producto GPT-4 es “sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública”.
Precisamente, el presidente de CAIDP, Marc Rotenberg, fue uno de los firmantes de la carta abierta, junto con varios investigadores de IA y el cofundador de OpenAI, Elon Musk. De manera similar a esa carta, la queja pide que se desacelere el desarrollo de modelos generativos de IA e implementar una supervisión gubernamental más estricta.
