OpenAI lanza herramienta para la detección de texto generado con IA, mejorando la integridad académica.

Estados Unidos.-Para enfrentar el mal uso de la tecnología, OpenAI ha creado una herramienta avanzada para la detección de texto generado por inteligencia artificial (IA).

Esta nueva solución, diseñada para discernir los textos creados por ChatGPT, emerge en un momento de creciente preocupación por la integridad académica y la autenticidad del contenido.

Aunque todavía se evalúa su lanzamiento, el método propuesto podría significar un avance considerable en la forma en que se identifican y gestionan los textos producidos por IA.

Según The Wall Street Journal, aunque se debate su disponibilidad pública, esta herramienta aborda el uso indebido de aplicaciones como ChatGPT.

Un portavoz de OpenAI, citado por TechCrunch, confirmó la investigación sobre el método de “marca de agua de texto” y mencionó que la empresa adoptará un enfoque cuidadoso, dada la complejidad del tema y sus posibles impactos en el ecosistema de la IA.

El mismo vocero habló sobre el método de “marca de agua de texto” que OpenAI está desarrollando, calificándolo de técnicamente prometedor.

Sin embargo, advirtió sobre los riesgos, como la posibilidad de que actores malintencionados eludan la detección y perjudiquen a grupos específicos, incluyendo a aquellos cuya lengua materna no es el inglés.

Esto marca un contraste con intentos anteriores de detectar texto generado por IA, que han resultado en gran medida ineficaces.

Por ejemplo, OpenAI desactivó su detector de texto IA en 2023 debido a su baja precisión. Con el nuevo método de “marca de agua”, la compañía se concentraría en identificar exclusivamente textos originados por ChatGPT, implementando sutiles modificaciones en la elección de palabras para crear una marca indetectable por herramientas convencionales.

Después de un artículo en Wall Street Journal, OpenAI actualizó una entrada de blog de mayo de 2024 sobre su investigación en detección de contenido generado por IA.

La actualización indicaba que las marcas de agua de texto han demostrado ser precisas y efectivas contra manipulaciones localizadas, como la paráfrasis, aunque son menos efectivas frente a manipulaciones más complejas, como la traducción o la reformulación con otro modelo generativo.

A pesar de estas limitaciones, OpenAI admitió que este método podría ser susceptible a la evasión por parte de actores maliciosos.

Te puede interesar: SearchGPT de OpenAI: El Nuevo Rival de Google en las Búsquedas Web

Además, la actualización destacó la preocupación de que las marcas de agua en el texto podrían estigmatizar el uso de la IA como herramienta de escritura para no hablantes nativos de inglés.