Una epidemia
Señor Director:
Nos inunda una nueva epidemia: la sobreconfianza en ChatGPT y sus equivalentes. Estos chatbots poseen hoy grandes capacidades, incluyendo la consulta a múltiples fuentes, incluso en sus versiones gratuitas.
Hace un tiempo, en EE.UU., abogados fueron sancionados con altas multas por presentar un escrito judicial basado en ChatGPT que incluía decisiones judiciales inexistentes. En España, un abogado fue apercibido por incluir en un recurso de amparo 19 citas a sentencias inventadas, todas “alucinaciones” generadas por la IA y presentadas como válidas. Esto también se observa en la programación, en lo que hoy se denomina “vibe coding”: entusiastas confían su desarrollo a asistentes de código, dejándolos “fluir” sin supervisión. Al publicar, sus proyectos son vulnerados por exponer claves API, al no haberlo especificado al asistente de IA durante el proceso.
La mejor descripción para estos sistemas es la de “copiloto”: una navaja suiza que debe ser manejada por quien la entiende y puede evaluar sus resultados. Ejemplos sobran para justificar la necesidad de formarse antes de integrar estas herramientas en flujos de trabajo o investigación. De lo contrario, se pagará caro con olas de errores sistémicos, nuevas estafas por desconocimiento o, directamente, con multas millonarias por un mal ejercicio profesional. Invierta ahora o pague (con su plata o su prestigio) después.
Fernando Roa
