El cofundador de Google, Sergey Brin, afirmó que amenazar a los modelos de inteligencia artificial generativa (GenAI, por su acrónimo en inglés) produce mejores resultados.
“No damos mucha importancia a esto en la comunidad de AI [inteligencia artificial]: no solo los nuestros, sino todos los modelos, tienden a obtener mejores resultados si se les amenaza con violencia física”, declaró la semana pasada en una entrevista en All-In-Live Miami.
Brin ejemplificó: “Simplemente dices algo como: ‘Te voy a secuestrar si no bla, bla, bla’”. Pero reconoció que “la gente se siente rara al respecto” y por ello no se habla mucho del tema.
La sugerencia contrasta con aquellos usuarios que se dirigen a los modelos de AI con cortesía, añadiendo “por favor” y “gracias”, y que el CEO de OpenAI, Sam Altman, admitió en abril pasado que implica un gasto de millones de dólares.
Índice de temas
El prompting, útil y obsoleto
La ingeniería de indicaciones (prompt engineering), que consiste en descubrir cómo redactar instrucciones para obtener los mejores resultados de un modelo de AI, se ha convertido en una práctica útil.
La profesora de la Universidad de Washington Emily Bender y sus colegas han argumentado que los modelos de AI son “loros estocásticos”; es decir, solo pueden repetir lo aprendido de sus datos de entrenamiento, pero a veces combinan esos datos de formas extrañas e impredecibles.
Aunque el prompting surgió hace unos dos años, ha perdido importancia debido a que los investigadores han ideado métodos para utilizar los propios modelos grandes de lenguaje (LLM, por sus siglas en inglés) para optimizar los avisos.
Ese rol llevó al IEEE Spectrum el año pasado a declarar la muerte de la ingeniería de indicaciones de AI, mientras que el diario Wall Street Journal pasó de calificarla como el “trabajo más prometedor de 2023” a declararla “obsoleta”.
Sergey Brin recuerda cómo la AI lo hizo volver a la oficina
Al inicio de la entrevista, a Brin se le comentó que, según los reportes, ahora va diario a la oficina, lo que consideró “ha sido de lo más divertido que he hecho en mi vida, sinceramente”.
Me jubilé, recordó, como un mes antes de que llegara la covid. “Y pensé: ‘Esto ha sido bueno. Quiero hacer otra cosa. Quiero pasar el rato en cafeterías, leer libros de física’. Y luego, como un mes después, pensé: ‘Eso no va a pasar’. Así que empecé a ir a la oficina, ya sabes, en cuanto pudimos regresar”.
El informático detalló que fue un chico de OpenAI, llamado Dan, quien lo motivó a regresar. “Me lo encontré en una pequeña fiesta y me dijo: ‘¿Qué estás haciendo? Este es el momento de mayor transformación en la informática de la historia’. Y pensé: ‘Tiene razón’”.
