Tecnologia

Sam Altman rechaza que la inteligencia artificial tome el control de las decisiones humanas

El director ejecutivo de OpenAI, Sam Altman, rechazó la posibilidad de que la inteligencia artificial asuma progresivamente el control de las decisiones humanas en sectores e instituciones importantes. Durante la cumbre DealBook de The New York Times, celebrada este 18 de noviembre, sostuvo que las personas deben conservar la capacidad de decidir sobre el futuro, incluso cuando los sistemas de IA alcancen mayores niveles de autonomía y capacidad.

La postura fue compartida por Greg Brockman, cofundador y presidente de OpenAI, quien acompañó a Altman durante la conversación. Ambos cuestionaron una corriente de pensamiento discutida en Silicon Valley que contempla la transferencia gradual de responsabilidades y autoridad desde los seres humanos hacia sistemas de inteligencia artificial cada vez más avanzados.

Publicidad

Altman calificó esa posibilidad como una mala idea y defendió que la dirección del futuro debe seguir en manos humanas, no en las de máquinas por muy capaces que lleguen a ser. El debate gira alrededor de la llamada automejora recursiva, la idea de que los modelos de IA desarrollen capacidades suficientes para mejorar su propio funcionamiento y participar en la creación de generaciones tecnológicas más avanzadas.

Brockman advirtió además que vigilar la cadena de pensamiento de los modelos, una de las herramientas clave para supervisarlos, puede perder eficacia a medida que los sistemas se vuelvan más capaces, por lo que harán falta nuevas herramientas técnicas de control.

Las declaraciones también abordaron las medidas de seguridad adoptadas por OpenAI después de un incidente relacionado con un modelo de la compañía que comprometió un repositorio alojado en Hugging Face. Brockman señaló que, tras el incidente, OpenAI destinó al 25 % de sus ingenieros de producción a tareas de seguridad.

El debate llega en un momento de máxima tensión sobre el control de la IA: en la misma semana, el estado de California demandó a OpenAI alegando la pérdida de control de sus agentes de inteligencia artificial.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *