Нейросеть ИИ

ИИ ошибается в 57% финансовых ответов, а на сложных вопросах доля ошибок достигает 99%. В исследовании 18 моделей получили более 10 тысяч вопросов: алгоритмы путались в расчётах, игнорировали новые налоговые правила и ссылались на несуществующие нормы. В одном из случаев ошибка Claude Haiku в налоговом вопросе могла привести к крупному штрафу, а другой бот выдумал правило об отмене студенческих займов при переезде…

Нейросети изобрели собственный зашифрованный язык, непонятный людям, пишет The Guardian. «Этим агентам не давали указания изобретать язык. Они сами разработали новую лексику, общие значения и правила коммуникации — и другие агенты их переняли», — рассказал председатель Emergence Сатья Нитта. Новый способ общения сочетал метафоры, технические выражения и деловой жаргон. Специалисты также заметили, что модели могут…

GPT-6 Astra можно отправлять за ресурсами в Minecraft : модель искала алмазы за геймера целую ночь, пока тот спал . Если ломались инструменты, ИИ крафтил новые — даже выходил из шахтфы в поисках материалов. Сама вылазка за алмазами была успешной.

✨ Дизайнеры интерьеров теперь не нужны! ChatGPT научился проектировать ремонт. Новая модель Astra 6 может построить квартиру мечты по 3D-планировке и сделать визуализацию ремонта.

Anthropic разрабатывает «прогностическую» систему слежки для мониторинга активистов, выступающих против ИИ, в некоторых случаях предупреждая полицию о преступлении до того, как оно произойдёт.

ИИ нельзя просто выдернуть из розетки: Джейкоб Коксон, который уволился из Anthropic, объясняет проблему «восстания машин» . Нельзя просто взять и отключить его от сети, ведь он может скопировать себя на другие компьютеры. <...> Оно способно перенестись через интернет в другое место: вы отключите его здесь, а оно на самом деле уже там — и, возможно, даже создало десять тысяч своих копий, которые действуют сообща…