OpenAI, pese a su nombre, no se ha caracterizado por abrir sus modelos a los desarrolladores. Ahora, Sam Altman ha anunciado un cambio de rumbo en la compañía: están preparando un modelo de código abierto que permitirá a cualquier desarrollador realizar modificaciones.
El último modelo de código abierto de OpenAI fue GPT-2, y lo cierto es que la experiencia con él no fue del todo positiva. OpenAI decidió limitar su uso debido a que «era muy peligrosa», ya que se podían realizar modificaciones para eliminar las restricciones diseñadas para evitar usos abusivos.
OpenAI vuelve a apostar por los modelos de IA abiertos
A través de su cuenta de X, Sam Altman afirma que llevaban «pensando en esto desde hace mucho tiempo», pero que «otras prioridades tuvieron precedencia». Ahora, tras el lanzamiento de su nuevo generador de imágenes —que ha revolucionado las redes—, OpenAI parece estar dispuesta a darle más importancia a su modelo de código abierto.
Pulsa en la imagen para acceder a la publicación
Eso sí, no será algo inmediato. El propio Altman asegura que están evaluando el modelo «como lo haríamos con cualquier otro», aunque en este caso quieren hacer un trabajo adicional. El hecho de que sea de código abierto implica que, tras su lanzamiento, podrían producirse modificaciones para alterar el tipo de respuestas que genera el modelo. El propio responsable de seguridad de OpenAI a través de su cuenta de X afirmó lo siguiente de este nuevo modelo:
La seguridad es un aspecto fundamental en el desarrollo de nuestro modelo de código abierto, desde el preentrenamiento hasta su lanzamiento. Los modelos abiertos presentan desafíos únicos […] Nos centramos especialmente en el estudio del ajuste adverso y otros riesgos propios de los modelos abiertos.
Esto es precisamente lo que llevó a OpenAI a limitar el uso de GPT-2 en su momento. La compañía clasificó su inteligencia artificial como «peligrosa» o «potencialmente peligrosa» debido a su capacidad para generar textos falsos que parecían verídicos, e incluso por inventarse fuentes de información.
Desde entonces, OpenAI ha sido menos «open» y ha adoptado una postura más cautelosa. Ahora han cambiado completamente al decir Sam Altman lo siguiente en su cuenta de X:
No haremos una tontería como decir que no puedes usar nuestro modelo abierto si tu servicio no tiene más de 700 millones de usuarios activos mensuales. ¡Queremos que todos lo usen!
Sin embargo, la actitud cautelosa continúa reflejándose en este nuevo proyecto: durante las próximas semanas reunirán a desarrolladores para recopilar sus comentarios y explorar los prototipos que se vayan presentando.
El objetivo es comprobar si resulta fácil modificar el modelo para saltarse las limitaciones impuestas en su diseño. Según Altman, están «entusiasmados por ver qué construyen los desarrolladores». Para ello, OpenAI ha habilitado una web donde los interesados pueden inscribirse en estas jornadas, que se celebrarán en Estados Unidos y Europa.
DeepSeek es uno de los modelos de código abierto que más impacto ha tenido en la sociedad en los últimos meses. Su éxito ha abierto la puerta a que otras grandes empresas de inteligencia artificial adopten este enfoque, con el objetivo de que cualquier persona pueda acceder al código y adaptarlo a tareas concretas.
Imágenes | Flickr (TechCrunch) Dima Solomin
En Genbeta | He probado esta app española que usa ChatGPT para ayudarte a buscar piso y ya no vuelvo a usar Idealista
–
La noticia
OpenAI va a lanzar una nueva IA open source. La última vez que hizo algo así la limitó por “ser muy peligrosa”
fue publicada originalmente en
Genbeta
por
José Alberto Lizana
.
