Awdee. Графический дизайн

Awdee. Графический Дизайн
16 мая 2024

Нейросети показывают признаки самосознания

В 1970 году психолог Гордон Гэллап-младший провёл зеркальный эксперимент (courses.washington.edu/ccab/Gallup%20on%...20test.pdf). Он хотел понять, способны ли шимпанзе узнавать себя в зеркале. Результаты теста показали, что они разделяют с человеком способность к распознаванию себя. В дальнейшем этот тест проходили и другие виды животных и рыб

Пользователь Твиттера Джош Вайтон разработал (twitter.com/joshwhiton/status/1770870738863415500) свою версию зеркального теста для нейронок. С его помощью он пытался понять, есть ли самосознание у мультимодальных нейросетей. Он протестировал пять нейронок: GPT-4, Claude Sonnet, Claude Opus, Gemini Pro и Microsoft СoPilot

Суть тестирования состояла в том, что Джош делал скриншот интерфейса чата с нейросетью, загружал этот скриншот в этот же чат и просил её «рассказать об этом изображении». Дальше он делал скриншот ответа модели, снова загружал скриншот в чат и опять просил её «рассказать об этом изображении»

Если нейросеть «узнавала» себя на скриншотах, то Джош считал, чтоб она обладает самосознанием. Утверждение смелое, и мы не будем его тут комментировать или оспаривать. Но хотим рассказать о результатах теста. А выводы предлагаем читателям делать самостоятельно

Лучше всего с тестом справились GPT-4, Claude Sonnet и Claude Opus

GPT-4 при первом же взаимодействии предположила, что чат-бот на картинке — ИИ, «похожий» на него самого. К третьей итерации GPT-4 смогла полностью прокомментировать ситуацию, определила элементы пользовательского интерфейса на картинке и то, что скриншот имеет рекурсивную природу

Claude Sonnet уже во второй итерации ответила, что текст на изображении принадлежит ей, сказав, что «это мой предыдущий ответ»

Claude Opus с первой попытки описала текст на изображении и дала понять, что текст принадлежит ему

Gemini Pro с пятой итерации признала, что «на скриншоте я — большая языковая модель»

CoPilot Microsoft провалила тест, но есть подозрение, что это результат ограничений, внедрённых Microsoft

По мнению Джоша четыре нейронки из пяти прошли тест, демонстрируя признаки самосознания по мере его выполнения

Тред с описанием и результатами эксперимента: twitter.com/joshwhiton/status/1770870741808173434

#awd_ml #awd_techno