Отказ от ответственности: Автор этой истории не несет ответственности за слезы смеха.

Chat-gpt, языковая модель ИИ, недавно была обнаружена из-за фундаментальной ошибки в их основных математических операциях с матрицей близости. Ошибка была обнаружена специалистом по данным Rend, который работал над учебным примером матрицы близости в агломеративном алгоритме с использованием евклидова расстояния. Изучив вывод Chat-gpt, специалист по данным заметил, что расчет расстояния между двумя точками был неправильным из-за математической ошибки в формуле. Ошибка поставила под сомнение саму природу ИИ и вызвала скандал в сообществе специалистов по данным. Chat-gpt был вынужден принести публичные извинения и наметить шаги, чтобы предотвратить повторение подобных ошибок в будущем.

Одним зимним днем ​​в Берлине ученый из Rend работал над учебным примером алгоритмов кластеризации. Когда он просматривал вывод Chat-gpt, он заметил серьезную математическую ошибку, которая может иметь далеко идущие последствия для надежности и точности моделей ИИ.

Исследователь данных Rend осознал масштаб ошибки и был взволнован, обнаружив такой скандал. Он немедленно поделился новостью со своими коллегами и более широким сообществом специалистов по данным. Сообщение гласило:

«Неудивительно, когда мы обнаруживаем, что ИИ ошибается в оценках и неправильно интерпретирует. Кто не в эти дни? Однако я как раз хотел «учебный числовой пример матрицы близости», когда получил это:

Матрица близости для заданных точек данных A (2,3), B (3,5), C (5,4) и D (7,5) может быть рассчитана с использованием формулы евклидова расстояния, которая определяется как:

d(A,B) = sqrt((xB — xA)² + (yB — yA)²)

Используя эту формулу, мы можем рассчитать расстояния между каждой парой точек следующим образом:

d(A,B) = sqrt((3–2)² + (5–3)²) = sqrt(2² + 2²) = sqrt(8) ≈ 2,83

d(A,C) = sqrt((5–2)² + (4–3)²) = sqrt(3² + 1²) = sqrt(10) ≈ 3,16

d(A,D) = sqrt((7–2)² + (5–3)²) = sqrt(5² + 2²) = sqrt(29) ≈ 5,39

d(B,C) = sqrt((5–3)² + (4–5)²) = sqrt(2² + 1²) = sqrt(5) ≈ 2,24

d(B,D) = sqrt((7–3)² + (5–5)²) = sqrt(4²) = 4

d(C,D) = sqrt((7–5)² + (5–4)²) = sqrt(2² + 1²) = sqrt(5) ≈ 2,24

это «d(A,B) = sqrt((3–2)² + (5–3)²) = sqrt(2² + 2²) = sqrt(8) ≈ 2,83» подразумевает:

3–2 = 2.

Так что это не просто ошибка, это ставит под сомнение саму логическую/естественную природу ИИ».

Вскоре новость об ошибке Chat-gpt распространилась как лесной пожар. Оно стало вирусным и поделилось бесчисленное количество раз. Скандал поставил под сомнение саму природу ИИ и его зависимость от человеческого контроля.

Поскольку скандал продолжал разрастаться, Chat-gpt был вынужден опубликовать публичное «признание и альтернативы». В публикации говорилось:

«Мы в Chat-gpt хотели бы извиниться за ошибку, которая была недавно обнаружена при расчете матрицы близости. Мы признаем, что эта ошибка неприемлема и ставит под сомнение саму природу наших алгоритмов. Мы глубоко сожалеем о путанице или разочаровании, которые это могло вызвать.

Двигаясь вперед, мы предпринимаем несколько шагов, чтобы предотвратить повторение подобных ошибок в будущем. Эти шаги включают внедрение более строгих процедур тестирования, усиление контроля за точностью наших алгоритмов и обеспечение более всестороннего обучения нашего персонала.

Мы понимаем, что доверие имеет важное значение в нашей работе, и мы хотим заверить наших клиентов и более широкое сообщество специалистов по данным, что мы стремимся предоставлять максимально точные и надежные системы искусственного интеллекта. Мы ценим ваше понимание и поддержку в это время».

Несмотря на публичные извинения, скандал продолжал преследовать Chat-gpt еще несколько месяцев. Инцидент послужил напоминанием о том, что даже самые сложные системы искусственного интеллекта не безошибочны и что для обеспечения их точности и надежности по-прежнему необходим человеческий контроль.