Exlíder de OpenAI dice que la seguridad “ha pasado a segundo plano” en la empresa

Image

Un exlíder de OpenAI que renunció a la empresa esta semana dijo el viernes que la seguridad “ha pasado a segundo plano” en la influyente compañía de inteligencia artificial (IA).

Jan Leike, que dirigió el equipo de “Superalineamiento” de OpenAI junto con el cofundador de la empresa, que también renunció esta semana, escribió en una serie de publicaciones en la red social X que se unió a la empresa, con sede en San Francisco, porque pensó que sería el mejor lugar para realizar investigaciones sobre IA.

“Sin embargo, durante bastante tiempo he estado en desacuerdo con la dirigencia de OpenAI respecto a las prioridades fundamentales de la empresa, hasta que finalmente llegamos a un punto crítico”, escribió Leike, cuyo último día en la empresa fue el jueves.

Leike, formado como investigador de IA, señaló que, en su opinión, se debería hacer más énfasis en prepararse para la próxima generación de modelos de IA, incluidos factores como la seguridad y el análisis del impacto de esas tecnologías en la sociedad. Dijo que la construcción de “máquinas más inteligentes que los seres humanos es una empresa inherentemente peligrosa”, y que la compañía “tiene una enorme responsabilidad para con la humanidad”.

“OpenAI debe convertirse en una empresa de AGI donde la seguridad sea lo primero”, escribió Leike, usando la abreviatura en inglés de inteligencia artificial general, una visión futurista de las máquinas que son, en general, tan inteligentes como los seres humanos, o al menos, pueden hacer muchas cosas tan bien como lo hacen las personas.

La renuncia de Leike se produjo después de que el cofundador de OpenAI y científico en jefe Ilya Sutskever dijera el martes que dejaría la empresa tras casi una década. Sutskever fue uno de los cuatro miembros del consejo de administración que votaron el otoño pasado a favor de expulsar al director ejecutivo Sam Altman, para luego ser reincorporando de inmediato. Fue Sutskever quien le informó a Altman en noviembre pasado que sería despedido, pero después dijo que se arrepentía de haberlo hecho.

Sutskever dijo que trabaja en un nuevo proyecto importante para él, pero no dio más detalles. Será reemplazado por Jakub Pachoki como científico en jefe. Altman dijo que Pachocki “es también, fácilmente, una de las más grandes mentes de nuestra generación” y afirmó que “tiene mucha confianza en que podrá dirigirnos para avanzar en forma rápida y segura hacia nuestra misión de garantizar que la AGI nos beneficie a todos”.

El lunes, OpenAI mostró la más reciente actualización de su modelo de inteligencia artificial, que puede imitar la cadencia humana en sus respuestas verbales, e incluso puede tratar de detectar el estado de ánimo de las personas.

Compartir:

Innovación

cortinas en sala de estar

Todo lo que necesitas saber acerca de la decoración textil

15 abril 2019 7:15 AM

Cuando de decoración de espacios se trata los textiles son…

Tecnología

Chilena triunfa en el mundo de los videojuegos y en empresa que colabora en importantes franquicias

Chilena triunfa en el mundo de los videojuegos y en empresa que colabora en importantes franquicias

4 enero 2024 12:28 PM

La destacada productora Maureen Berho inició su recorrido en el…

Empresas

¿Qué es un Brand Manager y qué funciones tiene?

¿Qué es un Brand Manager y qué funciones tiene?

11 abril 2024 11:13 AM

Los consumidores son cada vez más exigentes y menos fieles…

Marketing

Leonardo Viscarra

Niño boliviano que fabricó su propia mano robótica

7 noviembre 2018 9:04 AM

Algunas veces la creatividad es simplemente algo innato en las…

Mundo digital

Bat Bot B2

Tecnología a partir de los animales

14 noviembre 2017 11:24 AM

Los murciélagos pueden poseer las alas más sofisticadas en el…

Scroll al inicio