OpenAI разработала технологию, способную с точностью 99,9% определять тексты, написанные искусственным интеллектом, однако до сих пор не выпустила ее в открытый доступ. Об этом пишет WSJ, ссылаясь на свои источники и внутренние документы OpenAI.
Несмотря на обеспокоенность использованием искусственного интеллекта для написания эссе или научных статей, OpenAI уже два года колеблется с публикацией инструмента.
Технология готова к запуску уже около года, однако ее внедрению мешают внутренние споры. С одной стороны, OpenAI декларирует приверженность прозрачности, с другой — стремится привлекать и удерживать пользователей. Один из опросов, проведенный компанией среди лояльных пользователей ChatGPT, показал, что почти треть из них готова отказаться от использования чат-бота, если компания внедрит систему обнаружения плагиата.
Инструмент основан на технологии водяных знаков, незаметных для человека, но их можно обнаружить с помощью технологии обнаружения OpenAI. Детектор дает оценку того, насколько вероятно весь документ или его часть была написана ChatGPT.
Однако сотрудники выразили обеспокоенность по поводу возможности удаления водяных знаков с помощью простых методов, таких как перевод текста на другой язык через Google Translate и наоборот или добавление эмодзи в текст с последующим их удалением.
В компании соглашаются относительно сложности определения круга лиц, имеющих доступ к детектору. Если доступ получит мало людей, инструмент будет неэффективным, а если слишком много — злоумышленники могут расшифровать технологию водяных знаков компании.
по материалам
уникальность
