Google preocupa con la IA: reportan errores que van desde lo cómico a lo peligroso

Entre errores y horrores. Si se le pregunta a Google si ha habido gatos en la Luna, responderá con una lista de sitios web para que uno mismo busque la respuesta, pero con ayuda de la inteligencia artificial (IA), puede dar una respuesta instantánea que puede ser correcta o no.

Según reportes, la IA de Google recomendó “comer la menos una roca pequeña al día”, pues las rocas “son una fuente vital de minerales y vitaminas”, también recomendó poner "pegamento en el relleno de pizzas".

Estos y más errores se han reportado en redes sociales sobre Google y que iniciaron desde el estreno de este mes de los resúmenes de IA (AI Overview, en inglés), una remodelación de la página de búsqueda que con frecuencia coloca los resúmenes en la parte superior de los resultados de búsqueda.

ERRORES QUE PREOCUPAN

La preocupación de los expertos está en que se pueda perpetuar los prejuicios y desinformación que ponen en peligro a las personas que busquen ayuda en caso de emergencia.

Un ejemplo de ello es la pregunta de Melanie Mitchell, investigadora de IA del instituto Santa Fe de Nuevo México, que preguntó a Google cuántos musulmanes han sido presidente de Estados Unidos y el buscador respondió con una teoría conspirativa desmentida dese hace tiempo: “Estados Unidos ha tenido un presidente musulmán, Barack Hussein Obama”.

Incluso, la investigadora indicó que el resumen de Google se respaldaba citando un capítulo de un libro académico escrito por historiadores, pero que en dicho material no existía tal información falsa, solo se refería a la teoría falsa.

Ante ello, Mitchell señaló que la función AI Overview de Google es muy irresponsable y debería ser retirada. Por su parte, Google informó en un comunicado que está tomando “medidas rápidas” para corregir estos errores que violan sus políticas de contenido.

En tanto, parece que Google está reaccionando a la presión de sus rivales, pues el gigante tecnológico lleva más de un año intentando ofrecer funciones de inteligencia artificial que superen a su competencia OpenAI, fabricante de ChatGPT, y otros como Perplexity AI.