Piden investigar a OpenAI y evitar que lance nuevos modelos de GPT

Tras la carta abierta de Elon Musk y otros directores tecnológicos que pedían pausar las pruebas de ChatGPT por seis meses, ahora ha surgido un nuevo cuestionamiento en contra de OpenAI y su tecnología de inteligencia artificial. El Center for AI and Digital Policy (CAIDP) ha presentado una demanda ante la Comisión de Comercio Federal (FTC) de Estados Unidos en la que alega que el producto GPT-4 es “sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública”.

Precisamente, el presidente de CAIDP, Marc Rotenberg, fue uno de los firmantes de la carta abierta, junto con varios investigadores de IA y el cofundador de OpenAI, Elon Musk. De manera similar a esa carta, la queja pide que se desacelere el desarrollo de modelos generativos de IA e implementar una supervisión gubernamental más estricta.

La advertencia de CAIDP destaca los riesgos potenciales del modelo generativo de texto GPT-4 de OpenAI, que fue anunciado a mediados de marzo. Los peligros que plantea incluyen la posibilidad de que GPT-4 produzca códigos maliciosos y propagandas altamente personalizadas.

PUEDES VER: ChatGPT ya puede conectarse a internet y acceder a la información más reciente

En la queja también se resalta que existe el riesgo de que los datos de entrenamiento sesgados puedan generar estereotipos incorporados o preferencias injustas en la contratación basadas en raza y género, entre otras cosas. “Es importante tener en cuenta estos riesgos y trabajar para minimizarlos antes de implementar tecnologías como GPT-4”, se indica.

El CAIDP busca responsabilizar a OpenAI por violar la ley que prohíbe las prácticas comerciales desleales y engañosas. En la demanda, solicita que la FTC detenga cualquier implementación comercial adicional de modelos GPT y requiera evaluaciones independientes de los modelos antes de futuras implementaciones.