TL;DR. Сегодня мы рассмотрим ChatGPT и способы его злонамеренного использования. Кроме того, некоторая полезная информация о том, как вредоносная деятельность, такая как плагиат, борется с помощью нового инструмента: GPT Zero.
Введение
Студент информатики из Принстонского университета недавно разработал GPTZero, который использует статистические характеристики для оценки того, был ли определенный текст написан ИИ или настоящий человек.
Эдвард Тиан, студент, разработавший GPTZero, говорит, что приложение анализирует текст на предмет постоянных изменений тона и высокий уровень сложности. В то время как люди-писатели с большей вероятностью включают варианты в свои тексты, искусственный интеллект постоянно использует подобные варианты написания.
Почему GPTZero важен?
С несколько недавним выпуском ChatGPT от OpenAI многим разработчикам понравился разнообразие функционала. , которые предоставляет инструмент. В течение несколько дней веб-сайт стал вирусным, так как разработчики непреднамеренно вызвал DDOS (распределенный отказ в обслуживании) на их платформе!
В нескольких тестах GPTZero распознавал более длинные тексты, созданные ChatGPT, с некоторой точностью. Однако с короткими текстами почти все не удалось распознать. По словам Тиана, для точности чтения рекомендуется предоставить не менее десяти предложений.
Однако эти показатели не дают достаточного представления о будущих достижениях. Те же самые алгоритмы для распознавания ИИ могут быть учтены будущими инструментами ИИ, что потенциально «посолит» ответ наборы данных и стили написания для получения совершенно непредсказуемого ответа.
Недавний отказ ChatGPT
Многие образовательные учреждения заблокировали ChatGPT, опасаясь плагиата и возможных вредных последствий мейнстрима ИИ. ChatGPT может предоставлять информацию на основе кода, подсказок и уравнений, предоставляя гораздо более сложные ответы, чем похожие проекты.
Департамент образования Нью-Йорка даже заблокировал доступ к ChatGPT в своих сетях из-за опасений, что учащиеся используют инструмент ИИ для выполнения школьных заданий. .
Доступ к GPTZero и ChatGPT
Вы можете получить доступ к GPTZero и ChatGPT по следующим ссылкам:
Спасибо, что прочитали о GPT Zero! Если вы хотите узнать больше о кибербезопасности и информатике, ознакомьтесь с разделом Серая зона. Если вам понравилась эта статья, не стесняйтесь хлопнуть в ладоши, чтобы я знал, что можно публиковать подобный контент.
Поддержите меня как автора, подписавшись на членство в Medium, используя мою реферальную ссылку, что даст вам доступ ко всем моим сообщениям, а также ко всем остальным авторам →
Спасибо!
