ИИ стукач ИИ
OpenAI выпускает классификатор текста AI для борьбы с мошенничеством.
ChatGPT был притчей во языцех до того, как Microsoft объединила свои усилия с ним. Несмотря на его популярность, были опасения по поводу мошенничества, от академических учреждений до промышленного контента. Чтобы решить эту проблему, 31 января 2023 года OpenAI наконец представила свое решение — Классификатор.
Возможные категории, возвращаемые классификатором.
1. «Маловероятно, что создано ИИ» соответствует пороговому значению классификатора ‹0,1. Около 5% текста, написанного человеком, и 2% текста, сгенерированного ИИ, из нашего набора задач имеют эту метку.
2. «Маловероятно, что создано ИИ» соответствует пороговому значению классификатора от 0,1 до 0,45. Около 15% написанного человеком и 10% сгенерированного ИИ текста из нашего набора задач имеют эту метку.
3. «Неясно, написано ли это искусственным интеллектом» соответствует порогу классификатора от 0,45 до 0,9. Около 50% текста, написанного человеком, и 34% текста, сгенерированного ИИ, из нашего набора задач имеют эту метку.
4. «Возможно, сгенерировано ИИ» соответствует пороговому значению классификатора от 0,9 до 0,98. Около 21% текста, написанного человеком, и 28% текста, сгенерированного ИИ, из нашего набора задач имеют эту метку.
5. «Вероятно, сгенерировано ИИ» соответствует пороговому значению классификатора >0,98. Около 9% текста, написанного человеком, и 26% текста, сгенерированного ИИ, из нашего набора задач имеют эту метку.
[Источник: https://platform.openai.com/ai-text-classifier]
Недостатки классификатора
Классификатор не может дать обратную связь, основанную на коротком содержании. Для оценки требуется не менее 1000 символов. Во время моего первоначального тестирования я обнаружил, что он не смог определить, когда текст написан в соавторстве с человеком. Но я думаю, что это изменится в ближайшем будущем, как только он будет лучше обучен.
Но все это ожидается, так как он все еще находится в начальной фазе. При этом ВЫ можете помочь в его обучении, пытаясь обмануть его с помощью различного контента, созданного с помощью ChatGPT или без него. А затем дать ему обратную связь о его результате (т. е. обучение с подкреплением).
Будущее ИИ
Мне не терпится поиграть с классификатором, чтобы протестировать его и улучшить прогнозирование плагиата.
Как вы думаете, каковы наилучшие, приемлемые и устойчивые способы использования ChatGPT в будущем?
Другие связанные статьи:
Спасибо, что читаете мои стихи. Если вам понравился мой контент, подпишитесь на и похлопайте мне, чтобы показать свою поддержку моей работы.
Аника Нила (Anika Neela) — инженер-программист 2-го уровня в Microsoft и имеет более чем трехлетний опыт работы в отрасли. Она также получает степень магистра в области машинного обучения в Технологическом институте Джорджии. Она увлекается технологиями, финансами, фитнесом, художественной литературой и поэзией.
