El 2024 fue un año de altibajos para la inteligencia artificial (IA), con avances innovadores, pero también con tropiezos que han minado la confianza en esta tecnología. En este artículo repasaré los mayores errores de la IA en 2024, sus consecuencias y qué lecciones podemos aprender de cara al 2025.
AI Slop o IA Basura
La creación masiva de contenido generado por IA, como newsletters, ebooks, anuncios y posts automáticos, ha inundado literalmente la red. En muchas ocasiones, este contenido es de baja calidad o no está verificado.
Este contenido no solo resulta molesto, sino que representa un riesgo para la calidad de futuros modelos de IA, ya que se les está entrenando con datos basura.
Generando falsas expectativas
La IA puede generar confusión y falsas expectativas con la generación de imágenes surrealistas sobre lugares o eventos, dañando la confianza de los usuarios.
Un ejemplo fue el desfile de Halloween en Dublín, con imágenes generadas por IA de un desfile inexistente que provocó el desencanto entre los asistentes.
También a la hora de generar contenidos emotivos, como imágenes de niños llorando o de veteranos heridos, las cuales se han compartido masivamente por su capacidad de generar ingresos publicitarios.
Deepfakes y problemas éticos
La IA también generó problemas éticos en 2024, por ejemplo:
- Grok permite crear imágenes controvertidas sobre personas y personajes reales
- Una brecha en el generador de imágenes Designer de Microsoft, permitió la generación de imágenes explícitas de Taylor Swift.
Aunque las plataformas eliminan rápidamente este tipo de contenidos, estos incidentes dejan en evidencia la falta de moderación y las amenazas a la privacidad.
Todo ello conlleva la necesidad de establecer una regulación que promueva un uso confiable de la IA y que proteja de la vulneración de derechos de autor, así como la necesidad de implementar herramientas como marcas de agua para combatir este problema.
Chatbots empresariales fuera de control
Los chatbots entrenados específicamente con datos de empresa cometieron errores que cuestionaron su fiabilidad. Por ejemplo, el chatbot de Air Canada proporcionó información errónea sobre políticas de reembolso, causando confusión entre los clientes.
Las consecuencias a nivel empresarial han sido principalmente económicas, ya que han tenido que asumir costos adicionales para corregir errores y compensar a clientes afectados por chatbots defectuosos de atención al cliente.
No cabe duda que estos incidentes destacan la importancia de garantizar la precisión y confiabilidad de las herramientas empresariales de IA.
Dispositivos de IA: Promesas incumplidas
Los asistentes de hardware basados en IA como el AI Pin de Humane y el Rabbit R1 no lograron captar el interés del mercado. Ambos productos intentaron resolver problemas que realmente no existían, ofreciendo una experiencia poco intuitiva y cargada de errores.
La lección que se podría extraer es que, antes de lanzar un dispositivo al mercado, resulta esencial validar su utilidad y demanda, ya que la coletilla «con IA» no garantiza su éxito.
Búsquedas con IA poco fiables
Las búsquedas con IA también han reportado fallos. AI Overview de Google no puede distinguir entre una noticia real y una broma y ello provocó respuestas sin sentido, como añadir pegamento a una pizza.
Por otra parte, una nueva función del iPhone que agrupa las notificaciones de aplicaciones y crea resúmenes de su contenido, recientemente generó un titular falso de BBC News, provocando desinformación y la desconfianza en las fuentes de un medio acreditado.
Tendencias en IA para 2025
Los fracasos de la IA en 2024 proporcionan las claves sobre las mejoras a implementar en el futuro. Concretamente, las tendencias en IA que marcarán el año 2025 son:
- Enfoque en casos de uso: priorización de casos de uso prácticos. Este cambio podría alterar el liderazgo de los actuales gigantes tecnológicos.
- Avances en razonamiento: la mejora de las capacidades de razonamiento puede ser tan efectiva como aumentar el tamaño y entrenamiento de los modelos actuales.
- Modelos pequeños y de código abierto: son más rápidos, baratos y adaptables para tareas específicas. Además, los modelos de código abierto son accesibles, económicos y escalables.
- Incertidumbre sobre los líderes de la IA: no está claro si los actuales gigantes de la IA mantendrán su dominio frente a otras empresas emergentes que se posicionarán en el mercado.
¿Qué otros retos crees que enfrentará la IA en este año? Comparte tus pensamientos en los comentarios.
Si quieres mantenerte al día en tecnología e inteligencia artificial, te invito a suscribirte a la newsletter y seguir las próximas publicaciones de DigitAIzate.com.