tendencias IA en 2025

Errores de la IA en 2024 y las tendencias del 2025

El 2024 fue un año de altibajos para la inteligencia artificial (IA), con avances innovadores, pero también con tropiezos que han minado la confianza en esta tecnología. En este artículo repasaré los mayores errores de la IA en 2024, sus consecuencias y qué lecciones podemos aprender de cara al 2025.

mayores errores de la IA en 2024

AI Slop o IA Basura

La creación masiva de contenido generado por IA, como newsletters, ebooks, anuncios y posts automáticos, ha inundado literalmente la red. En muchas ocasiones, este contenido es de baja calidad o no está verificado.

Este contenido no solo resulta molesto, sino que representa un riesgo para la calidad de futuros modelos de IA, ya que se les está entrenando con datos basura.

AI Slot o contenido basura de IA

Generando falsas expectativas

La IA puede generar confusión y falsas expectativas con la generación de imágenes surrealistas sobre lugares o eventos, dañando la confianza de los usuarios.

Un ejemplo fue el desfile de Halloween en Dublín, con imágenes generadas por IA de un desfile inexistente que provocó el desencanto entre los asistentes.

También a la hora de generar contenidos emotivos, como imágenes de niños llorando o de veteranos heridos, las cuales se han compartido masivamente por su capacidad de generar ingresos publicitarios.

Generación de expectativas con IA

Deepfakes y problemas éticos

La IA también generó problemas éticos en 2024, por ejemplo:

  • Grok permite crear imágenes controvertidas sobre personas y personajes reales
  • Una brecha en el generador de imágenes Designer de Microsoft, permitió la generación de imágenes explícitas de Taylor Swift.

Aunque las plataformas eliminan rápidamente este tipo de contenidos, estos incidentes dejan en evidencia la falta de moderación y las amenazas a la privacidad.

Todo ello conlleva la necesidad de establecer una regulación que promueva un uso confiable de la IA y que proteja de la vulneración de derechos de autor, así como la necesidad de implementar herramientas como marcas de agua para combatir este problema.

deepfakes de la IA

Chatbots empresariales fuera de control

Los chatbots entrenados específicamente con datos de empresa cometieron errores que cuestionaron su fiabilidad. Por ejemplo, el chatbot de Air Canada proporcionó información errónea sobre políticas de reembolso, causando confusión entre los clientes.

Las consecuencias a nivel empresarial han sido principalmente económicas, ya que han tenido que asumir costos adicionales para corregir errores y compensar a clientes afectados por chatbots defectuosos de atención al cliente.

No cabe duda que estos incidentes destacan la importancia de garantizar la precisión y confiabilidad de las herramientas empresariales de IA.

chatbots entrenados con datos de la empresa

Dispositivos de IA: Promesas incumplidas

Los asistentes de hardware basados en IA como el AI Pin de Humane y el Rabbit R1 no lograron captar el interés del mercado. Ambos productos intentaron resolver problemas que realmente no existían, ofreciendo una experiencia poco intuitiva y cargada de errores.

La lección que se podría extraer es que, antes de lanzar un dispositivo al mercado, resulta esencial validar su utilidad y demanda, ya que la coletilla «con IA» no garantiza su éxito.

fracaso de los dispositivos con IA

Búsquedas con IA poco fiables

Las búsquedas con IA también han reportado fallos. AI Overview de Google no puede distinguir entre una noticia real y una broma y ello provocó respuestas sin sentido, como añadir pegamento a una pizza.

Por otra parte, una nueva función del iPhone que agrupa las notificaciones de aplicaciones y crea resúmenes de su contenido, recientemente generó un titular falso de BBC News, provocando desinformación y la desconfianza en las fuentes de un medio acreditado.

búsquedas incorrectas con IA

Tendencias en IA para 2025

Los fracasos de la IA en 2024 proporcionan las claves sobre las mejoras a implementar en el futuro. Concretamente, las tendencias en IA que marcarán el año 2025 son:

  • Enfoque en casos de uso: priorización de casos de uso prácticos. Este cambio podría alterar el liderazgo de los actuales gigantes tecnológicos.
  • Avances en razonamiento: la mejora de las capacidades de razonamiento puede ser tan efectiva como aumentar el tamaño y entrenamiento de los modelos actuales.
  • Modelos pequeños y de código abierto: son más rápidos, baratos y adaptables para tareas específicas. Además, los modelos de código abierto son accesibles, económicos y escalables.
  • Incertidumbre sobre los líderes de la IA: no está claro si los actuales gigantes de la IA mantendrán su dominio frente a otras empresas emergentes que se posicionarán en el mercado.

¿Qué otros retos crees que enfrentará la IA en este año? Comparte tus pensamientos en los comentarios.

Si quieres mantenerte al día en tecnología e inteligencia artificial, te invito a suscribirte a la newsletter y seguir las próximas publicaciones de DigitAIzate.com.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Scroll al inicio