Imagine que su empresa acaba de contratar nuevos talentos, una estrella ejecutiva en ascenso tan atractiva que una empresa rival acaba de contratar a un doble. El zumbido a su alrededor es embriagador. Todo el mundo parece estar de acuerdo, desde el director general hasta los accionistas, esta persona es el futuro de toda la empresa.
Luego se entera de que el ejecutivo tiene lo que educadamente se llama un «problema de alucinaciones(Se abre en una pestaña nueva)». Cada vez que abren la boca, hay entre un 15 y un 20 % de posibilidades de que inventen cosas (se abre en una pestaña nueva). Un profesor de Princeton llama al tipo un generador de tonterías (se abre en una pestaña nueva). Literalmente no pueden distinguir la verdad de la ficción (se abre en una pestaña nueva). Suben al escenario para presentar un nuevo producto en cinco minutos. ¿Sigues empujándolos hacia el centro de atención?
Para Microsoft y Google esta semana, la respuesta fue sí. Emocionado por el éxito de ChatGPT de OpenAI, el chatbot de inteligencia artificial con 100 millones de usuarios activos mensuales dos meses después de su lanzamiento, Microsoft realizó un evento sorpresa de última hora para anunciar que OpenAI traería la búsqueda de tipo ChatGPT al motor de búsqueda Bing y al navegador Edge. Google anunció una herramienta de búsqueda basada en inteligencia artificial, Bard, el día anterior y la presentó en un evento en París al día siguiente, pero se encontró con su propio problema de alucinaciones.
“Hoy comienza una nueva carrera”, dijo el director general de Microsoft, Satya Nadella, a los periodistas el martes en el campus de Redmond, Washington. Sí, ¿no es lindo pensar eso (se abre en una pestaña nueva)? Microsoft, el chico perpetuamente fuera de moda del bloque tecnológico, quisiera que pensaras que Bing, lo siento, «el nuevo Bing», está en una carrera con la Búsqueda de Google en cualquier cosa.
La respuesta previa de Google anunciando a Bard(Opens in a new tab) estaba llena de condescendencia: «Reenfocamos el negocio en torno a la IA hace seis años», escribió el CEO de Google, Sundar Pichai.
Google y el «problema de las alucinaciones»
Lo que está diciendo. Google, el líder mundial en búsquedas, ha tenido años para integrar IA, y su rival ChatGPT, Bard, apenas está en versión beta con un pequeño grupo de probadores. A pesar de toda la afectación hípster de Pichai, la revelación de la bardo tuvo un lío imprevisto. Google también parece haber sido tomado por sorpresa por todo el alboroto de ChatGPT.
¿De qué otra manera explicar el vergonzoso error de Bard en pantalla completa en el lanzamiento, no en el evento en sí, donde se esperan errores de demostración, sino en un GIF prefabricado? Se muestra a un usuario pidiéndole a Bard datos que pueda contarle a su hijo de 9 años sobre el telescopio espacial James Webb.
Uno de estos «hechos», que el JWST tomó la primera foto de un exoplaneta, es incorrecto. Bard tenía alucinaciones (Se abre en una pestaña nueva). (ACTUALIZACIÓN: Mientras que un reportero del Financial Times afirma Las palabras de Bard fueron técnicamente precisas(Se abre en una nueva pestaña)lo que requiere leer un lenguaje que ningún ser humano emplearía, lo cual es otro problema con la búsqueda de IA).
No es de extrañar que la empresa matriz, Alphabet, perdiera hasta un 8 % del precio de sus acciones el día del lanzamiento de Bard. Google sacó a relucir el problema principal de la búsqueda de IA y sugirió además que la empresa no podía usar su vasto almacén de datos para verificarse a sí misma.
Google debería saberlo mejor, dado que ya tenía un «problema de alucinación» con sus fragmentos destacados (Se abre en una pestaña nueva) en la parte superior de los resultados de búsqueda en 2017. El algoritmo de fragmentos parecía particularmente aficionado a contar historias y mentiras sobre los presidentes estadounidenses. De nuevo, ¿qué podría salir mal?
VEA TAMBIÉN: Nunca confíe en una sola fuente: las nuevas reglas para aprender todo en línea
En otras palabras, enciende tu herramienta de investigación de IA demasiado pronto y corres el riesgo de jugar contigo mismo. Microsoft tuvo suerte, ya que no se mostraron errores obvios durante su evento de lanzamiento. Pero si la búsqueda basada en ChatGPT no estuvo plagada de errores, ¿por qué se encuentra en una etapa beta tan tentativa? Nota: Si está interesado en realizar un control de calidad de IA gratuito para Bing, hay una hoja de registro (se abre en una nueva pestaña).
«Todavía hay mucho por hacer allí», dijo Sarah Bird, directora principal de inteligencia artificial en Microsoft (¡un título revelador!), en respuesta a una pregunta de Wired sobre el problema de la alucinación de ChatGPT (se abre en una nueva pestaña). Sí, no es broma: el recuento de alucinaciones del 15 % proviene de una empresa que está en su propia carrera para crear un verificador de hechos de ChatGPT (se abre en una nueva pestaña). (ACTUALIZACIÓN: el informe sin aliento de un columnista del New York Times sobre New Bing (Se abre en una nueva pestaña) descubrió que ni siquiera podía obtener las matemáticas básicas correctamente, o incluso una lista de actividades locales adecuadas para los niños).
Bird agregó que las versiones anteriores del software podían ayudar a los usuarios a planificar un tiroteo en la escuela, pero esa función se había desactivado. ¡Bueno saber! ¿Qué podría salir mal a continuación? Seguramente no hay otras consecuencias no deseadas al acecho en este alucinante producto de investigación beta que podría avergonzar a un gigante tecnológico grande y legalmente vulnerable.
Recortado. Zune. Nuevo Bing.
Microsoft sabe esto por vergüenza, por supuesto: es la compañía que nos dio uno de los fracasos más grandes en la historia del software, Clippy. El asistente de trombón era famoso por dar consejos no deseados. ChatGPT no es Clippy, en el sentido de que acudimos a él con preguntas.
Pero el hecho de que a menudo alucina sus respuestas, o, más a menudo de lo que piensas, les da a los usuarios una variación banal de «No puedo responder eso», podría hacer que Bing habilitado para ChatGPT sea una especie de Clippy en LSD. Si suficientes usuarios ocasionales del «Nuevo Bing» obtienen resultados truncados, será recordado por eso.
No importa si un producto mejora después; la respuesta popular inicial es lo que puede convertirlo en un remate. Microsoft también debería saberlo; nos dio el Zune. Implementar un producto ChatGPT antes de que esté realmente listo para el horario de máxima audiencia no es diferente.
«The New Bing» ya pide ser un remate, honestamente. ¿O está realmente listo para deshacerse de la Búsqueda de Google y su navegador Chrome para Bing y Edge, en caso de que este último gane la carrera de búsqueda de IA, qué significa realmente «ganar» aquí? No me refería a eso. La inercia tecnológica se subestima profundamente como fuerza.
ChatGPT es impresionante en algunas circunstancias (a los agentes inmobiliarios en particular les encanta escribir anuncios) e infunde miedo en otros. Pero cada historia sobre sus perturbaciones parece de alguna manera menos, una vez que indagas bajo el título. ¡Esto conducirá a una ola de plagio estudiantil! Excepto que también puede decirle cuándo ChatGPT escribió un artículo (se abre en una nueva pestaña), neutralizando su propia amenaza. ¡Pasó un examen de la facultad de derecho! Excepto que en realidad solo rasgueó con un C-plus (Se abre en una nueva pestaña).
Aquí está la cosa: construir el equivalente digital de un cerebro humano, conocido en los círculos de IA como «IA general», es realmente difícil. Recién comenzamos a llegar a la etapa de la inteligencia de los insectos(Se abre en una nueva pestaña), otro objetivo de larga data de la IA. ¿Realmente confiará en ChatGPT para entregar sus resultados de búsqueda, en lugar de, ya sabe, hacer clic en los enlaces usted mismo?
La respuesta bien puede depender de cuánto problema tenga usted, querido lector, con las alucinaciones.
