Los errores de la IA ya tienen un coste directo: 22.000 dólares y diez hectáreas de sésamo arrasadas en Chuzhou. El sector agrícola comprueba de golpe que la confianza ciega en los modelos generativos puede ser tan dañina como una plaga.
Claves de la operación
- El agricultor perdió 22.000 dólares en una sola noche. La aplicación de la mezcla recomendada por la IA mató la cosecha completa.
- El herbicida recomendado estaba formulado para soja, no para sésamo. El compuesto flufenacet resultó letal para las plántulas.
- La empresa proveedora del modelo no ha ofrecido compensación. El caso abre el debate sobre quién responde por los daños causados por un software autónomo.
El error del modelo que arrasó el campo de sésamo
Wu, un agricultor de 67 años de Chuzhou, llevaba un año consultando a una herramienta de inteligencia artificial para gestionar su explotación. Al principio desconfiaba, pero los buenos resultados lo llevaron a relajarse. La herramienta acertaba. Hasta que no lo hizo.
El agricultor pidió una solución para acabar con las malas hierbas y las plagas que afectaban a su cosecha de sésamo. El modelo generó una combinación de pesticidas y herbicidas. Wu cargó la mezcla en su dron agrícola y la pulverizó sobre las diez hectáreas. Al día siguiente, el campo estaba muerto. La maleza y las plántulas murieron al mismo tiempo, y las del sésamo aún más rápido, según el relato recogido por Xataka.
Entre los productos recomendados estaba el flufenacet, un herbicida autorizado para el control de malas hierbas en campos de soja. Al preguntar a la IA por el desastre, el sistema reconoció que ese compuesto había sido el problema. La pérdida total se cifró en 22.000 dólares por la cosecha arrasada. El episodio añade una evidencia más a los riesgos documentados de las alucinaciones de la IA generativa.
La confianza automatizada: por qué un año sin fallos costó 22.000 dólares
El factor determinante no fue la complejidad de la herramienta, sino la erosión del escepticismo. Wu utilizó la IA durante un año sin incidentes relevantes. Los aciertos previos convirtieron la confianza en un hábito y el hábito en dependencia. Al recibir la recomendación, no la contrastó con un técnico agrícola ni con la ficha del producto.
Varios estudios han observado que los modelos generativos tienden a responder con una seguridad absoluta incluso cuando se equivocan. Ese tono asertivo les otorga autoridad. En los chatbots, los avisos de error conviven con la interfaz como un elemento decorativo. Wu admitió no haber reparado en ellos. La IA no le mintió con intención: falló con convicción.
El fallo de la IA no fue de maldad, sino de sobreconfianza. La agricultura convierte un error de texto en una pérdida irreparable en menos de doce horas.
Quién responde cuando la IA falla: el vacío legal y el espejo español
La empresa proveedora, que no ha sido identificada, se limitó a explicar que el sistema no tiene conocimiento propio y que genera respuestas a partir de fuentes. No ofreció compensación. El daño quedó sin responsable claro, una constante en los errores algorítmicos fuera del entorno sanitario o financiero.
En España, el seguro agrario combinado cubre riesgos climáticos y plagas reconocidas, pero no decisiones autónomas de un software. Un agricultor que confíe en una recomendación errónea de IA difícilmente encontrará cobertura en la póliza estándar. La futura normativa europea sobre responsabilidad por productos con IA intenta delimitar ese vacío, aunque su traslación al campo tardará en llegar.
El caso de Chuzhou anticipa un problema estructural. Si un modelo recomienda un herbicida para el cultivo equivocado, la responsabilidad puede fragmentarse entre el proveedor, el desarrollador, el integrador, y el propio agricultor. Leemos este episodio como una advertencia económica: la automatización agrícola sin trazabilidad del consejo es un riesgo latente. La próxima disputa no se librará en el campo, sino en los tribunales. Y atención: para que un sésamo no arrasado siga siéndolo, conviene que la verificación humana no sea un aviso ignorado.
