Нова технология на OpenAI поставя невидим „воден знак“ върху AI текстове в отговор на изискванията на Европейския акт за изкуствения интелект, чийто срок за съществуващите AI системи изтича на 2 декември 2026 г.
OpenAI избра основателя на INSAIT за усъвършенстване на технологията си за откриване на AI текстове
Основателят и научен директор на INSAIT проф. Мартин Вечев е сред ограничен кръг водещи световни изследователи, избрани от OpenAI за изследването и усъвършенстването на нова технология за воден знак (watermarking) в текстове, генерирани от изкуствен интелект.
Технологията на OpenAI вгражда невидим статистически сигнал в начина, по който моделът генерира текст. Специален детектор може впоследствие да провери дали текстът съдържа този сигнал. За разлика от традиционните инструменти, които се опитват да преценят дали даден текст е написан от AI въз основа на неговия стил, тук идеята е да се открива вграден сигнал за произхода на съдържанието.
Развитието на технологията идва в момент, когато европейските правила за прозрачност на AI съдържанието вече влизат в практическо приложение. За съществуващите AI системи Европейският акт за изкуствения интелект предвижда преходен срок до 2 декември 2026 г. за изпълнение на изискванията за машинно четимо маркиране и откриване на AI-генерирано съдържание.
Това поставя технологиите за watermarking и други механизми за доказване на произхода на съдържанието във фокуса на AI индустрията. Към момента OpenAI предоставя възможност за включване на текстово watermarking за избрани модели, като функцията е по избор на клиентите. Самият детектор за текст все още не е публично достъпен: компанията предоставя достъп на избрани изследователи, сред които проф. Вечев, за да проучат технологията и да помогнат за нейното усъвършенстване. OpenAI посочва, че подходът може да бъде разширен с развитието на технологията и натрупването на повече доказателства за нейната надеждност.