Premios AI Darwin 2025

En Premios AI Darwin 2025: un reconocimiento a los desastres causados por el mal uso de la IA:

Los AI Darwin Awards 2025 son la extensión lógica de los Premios Darwin a los que tan aficionados somos por aquí. La diferencia es que estos premian a quienes consiguen usar la IA para hacer que pequeños errores alcancen dimensiones globales. La diferencia es que mientras que los premios Darwin premian la autoeliminación individual del acervo genético, aquí igual el desastre se nos lleva a todos por delante. Glups.

[…]

Entre los candidatos de este año hay de todo, empresas grandes y pequeñas, desde establecimientos de comida rápida a multinacionales y la mismísima OpenAI:

• Taco Bell: que puso una IA a atender los pedidos desde los coches, ocasionando quejas, fallos y bastantes troleos.
• Los abogados: que delegaron su trabajo acabando con citas jurídicas inventadas, costándole a los juzgados miles de dólares en las revisiones. Ha habido varios casos en Estados Unidos y Australia.
• OpenAI/GPT-5: un lanzamiento desastroso, incluyendo sus «nuevas barreras de seguridad» que un investigador rompió en 60 minutos con un ataque TIP, logrando un jailbreak para burlar la seguridad a base de acertijos y secuencias lógicas.
• Paradox.ai y McDonald’s: su chatbot de contratación «Olivia» estaba protegido con la «infalible» contraseña 123456 (¡WTF!), así que dejaron los datos de 64 millones de aspirantes expuestos para quien quisiera llevárselos.
• Xbox Game Studios: tras despedir a 9.000 empleados, los directivos sugirieron que consiguieran «apoyo emocional» mediante IAs.