Desde el 2 de agosto, los modelos de inteligencia artificial de Anthropic en la Unión Europea introducen una marca invisible en los textos generados, creando un nuevo estándar de transparencia en alineación con las normativas europeas. OpenAI, por su parte, seguirá una estrategia similar al implementar su técnica denominada textGrain, que no añade marcas visibles, sino que utiliza criterios estadísticos para crear patrones sutiles en los textos.
Aunque OpenAI planea probar textGrain inicialmente en la UE, esta tecnología podría extenderse a otras regiones en el futuro. La API de OpenAI también permitirá a los desarrolladores activar esta huella estadística en los textos generados, independientemente de su ubicación.
Sin embargo, OpenAI ha advertido que su tecnología de marcado no es infalible. La eficacia en la detección de patrones puede verse comprometida si los usuarios editan los textos o sustituyen palabras por sinónimos, disminuyendo la precisión de la identificación. Por ejemplo, cambiar un 10% de las palabras en un texto de 400 tokens reduce la efectividad de detección del 92% al 66%.
Además, los textos breves presentan un desafío adicional, ya que es más difícil identificar patrones estadísticos en ellos, lo que puede llevar a la confusión entre contenido generado por IA y autoría humana. Aun así, existe la posibilidad de falsos positivos, donde un texto no generado por IA es erróneamente identificado como tal. Durante las pruebas, OpenAI observó que su herramienta de detección era más efectiva en textos de mayor longitud.
Importante es también que, aun logrando cierta precisión, las herramientas de detección no pueden cuantificar qué parte del texto es original y cuál proviene de un modelo de IA. Aunque OpenAI utiliza estándares para firmar imágenes y audio, la identificación textual a través de textGrain aún presenta limitaciones significativas.