No confíes ciegamente en lo que te dice la IA, le dice el jefe de Google a la BBC

La gente no debería «confiar ciegamente» en todo lo que les dicen las herramientas de inteligencia artificial, dijo a la BBC el jefe de Alphabet, la empresa matriz de Google.

En una entrevista exclusiva, el director ejecutivo, Sundar Pichai, dijo que los modelos de IA son «propensos a errores» e instó a la gente a utilizarlos junto con otras herramientas.

Pichai dijo que esto resalta la importancia de tener un ecosistema de información rico, en lugar de depender únicamente de la tecnología de inteligencia artificial.

«Es por eso que la gente también usa la Búsqueda de Google y tenemos otros productos que están más enfocados en brindar información precisa».

Aunque las herramientas de inteligencia artificial son útiles «si quieres escribir algo creativamente», Pichai dijo que las personas «necesitan aprender a usar estas herramientas para lo que hacen bien y no confiar ciegamente en todo lo que dicen».

Le dijo a la BBC: «Estamos orgullosos de la cantidad de trabajo que realizamos para brindarnos información lo más precisa posible, pero la actual tecnología de inteligencia artificial de vanguardia es propensa a algunos errores».

El mundo de la tecnología ha estado esperando el último lanzamiento del modelo de inteligencia artificial para consumidores de Google, Gemini 3.0, que está comenzando a recuperar participación de mercado frente a ChatGPT.

A partir de mayo de este año, Google comenzó a introducir un nuevo «modo AI» en sus búsquedas, integrando su chatbot Gemini, que es destinado a brindar a los usuarios la experiencia de hablar con un experto.

En ese momento, Pichai dijo que la integración de Gemini con la búsqueda marcaba una «nueva fase de cambio de plataforma de IA».

La medida también es parte del deseo del gigante tecnológico de seguir siendo competitivo frente a servicios de inteligencia artificial como ChatGPT, que amenazan el dominio de Google en las búsquedas en línea.

Sus comentarios confirman una investigación de la BBC a principios de este año, que encontró que los chatbots de IA resumían noticias de manera inexacta.

ChatGPT de OpenAI, Copilot de Microsoft, Gemini de Google y Perplexity AI recibieron contenido del sitio web de la BBC e hicieron preguntas al respecto, y la búsqueda encontró las respuestas de la IA. contenía “inexactitudes materiales«.

En su entrevista con la BBC, Pichai dijo que había cierta tensión entre la rapidez con la que se desarrolló la tecnología y cómo se incorporaron medidas de mitigación para prevenir posibles efectos nocivos.

Para Alphabet, Pichai dijo que gestionar esta tensión significa ser «audaz y responsable».

«Así que estamos avanzando rápidamente en este período. Creo que nuestros consumidores lo exigen», afirmó.

Pichai añadió que el gigante tecnológico también ha aumentado sus inversiones en seguridad de IA en proporción a sus inversiones en IA.

“Por ejemplo, somos una tecnología de código abierto que te permitirá detectar si una imagen es generada por IA”, dijo.

Cuando se le preguntó sobre los comentarios recientemente descubiertos del multimillonario tecnológico Elon Musk a los fundadores de OpenAI sobre los temores de que DeepMind, ahora propiedad de Google, estuviera creando una «dictadura» de la IA, Pichai dijo que «ninguna empresa debería poseer una tecnología tan poderosa como la IA».

Pero añadió que hoy en día hay muchas empresas en el ecosistema de la IA.

«Si solo hubiera una empresa desarrollando tecnología de inteligencia artificial y todos tuvieran que usarla, eso también me preocuparía, pero estamos muy lejos de ese escenario en este momento», dijo.