Исследователи Anthropic выкатили результаты интересного исследования — в языковых моделях нашли структуру, функционально похожую на «глобальное рабочее пространство» из нейронауки сознания. Огромная часть вычислений модели — автоматика, недоступная для отчёта. Но внутри нейронных сетей Claude существует небольшая группа паттернов активации, выполняющая роль, аналогичную «сознательно доступному» мышлению у людей. Это область, где модель удерживает мысли, которые она «обдумывает», но не обязательно озвучивает. J-Space не был запрограммирован разработчиками, он появился самопроизвольно в процессе обучения модели. Есть вполне человеческие аналогии — не зря исследователи проводят параллели с нейронаукой. Опытный водитель переключает передачи не осознавая. Но, если его спросить, какая сейчас передача, информация об этом втягивается в сознание. У модели так же: счётчик длины строки исправно управляет переносами, вообще не появляясь в рабочем пространстве, но стоит задаче потребовать назвать длину — та же информация всплывает и становится доступной для рассуждения. Эффект белого медведя: инструкция «не думай об X» подавляет концепт лишь частично, он прорывается. А у пост-обученной модели рядом с прорвавшейся мыслью появляется ещё и damn — она замечает собственный провал, как медитирующий, обнаруживший, что ум опять убежал. J-space содержит всего несколько десятков концептов одновременно и отвечает менее чем за 1/10 (10%) общей активности внутренних процессов модели. Нейроны в J-space связаны с остальной сетью значительно плотнее — в некоторых частях сети плотность связей выше примерно в 100 раз по сравнению с обычными паттернами. Работа не доказывает, что Claude обладает «феноменальным сознанием» (способностью чувствовать). Однако исследование демонстрирует наличие «доступного сознания» (access consciousness) — способности оперировать информацией, рассуждать и использовать её для управления поведением. Практическое его использование уже понятно — можно использовать для контроля модели и обнаруживать попытки обмана. Кроме того, это даёт неожиданный метод обучения: если натренировать модель формулировать этические принципы в ответ на гипотетическое «остановись и подумай», поведение улучшается и там, где никто не спрашивает — принципы заселяют рабочее пространство. Тренируя, что модель сказала бы, меняешь то, что она думает. https://transformer-circuits.pub/2026/workspace/index.html
БлБлоGnot
CategoryOtherLanguageRUFirst seenJul 06, 2026QualityVerified
Subscribers869
Avg views5.5K
ERR634.1%
Price-- RUB
Price / subscriber--
Price / view--
Metrics updated: Jul 07, 2026
Recent posts
Microsoft сокращает около 4 800 сотрудников — примерно 2,1% штата — в первый день нового финансового года. Основной удар приходится на коммерческие продажи и подразделение Xbox. Директор по персоналу Эми Коулман во внутреннем письме связала сокращения с влиянием AI на индустрию, но отдельно указала, что уволенных «не заменяет AI». Увольнения в Xbox не ограничатся нынешними 1600 сотрудниками — до конца года планируется сократить 20% персонала подразделения. Параллельно Microsoft продаёт четыре игровые студии и рассматривает продажу пятой. Вот такая перезагрузка направления, как это Microsoft называет. https://www.theverge.com/news/961528/microsoft-layoffs-july-2026-sales-xbox?view_token=eyJhbGciOiJIUzI1NiJ9.eyJpZCI6IjF6dlc3Vmw1VTQiLCJwIjoiL25ld3MvOTYxNTI4L21pY3Jvc29mdC1sYXlvZmZzLWp1bHktMjAyNi1zYWxlcy14Ym94IiwiZXhwIjoxNzgzNzc2NjMyLCJpYXQiOjE3ODMzNDQ2MzJ9.HkCv3K6oLW-VWU0GRiIAGHen5yS8Di1QBdL2CKGz1ow&utm_medium=gift-link
Федеральный судья Юми Ли предписала Пентагону временно не применять к Alibaba ограничения на лоббирование, связанные с чёрным списком 1260H, пока она рассматривает вопрос о конституционности этой нормы. Компания попала в список 8 июня как предположительно связанная с китайскими военными, 23 июня подала иск с требованием исключить её, а 30 июня — ходатайство о снятии лоббистских ограничений. По данным Bloomberg, отсрочка действует до решения по ходатайству или в течение 60 дней после слушаний. Норма устроена так, что формально Alibaba никто не запрещает нанимать лоббистов, но закон запрещает Пентагону работать с подрядчиками, чьи лоббисты одновременно представляют компании из чёрного списка. Ни одна крупная фирма не станет жертвовать доступом к десяткам тысяч оборонных контрактов ради одного китайского клиента: все два с лишним десятка зарегистрированных лоббистов Alibaba отозвали регистрации за пару недель. Юристы Alibaba представляют это как давление на свободу слова через рынок. Получается интересная ситуация — китайская компания, дистиллирующая работу американской модели, добивается по закону реакции от Пентагона, а компанию — разработчика американской модели Пентагон продолжает считать опасной. https://www.bloomberg.com/news/articles/2026-07-05/alibaba-gets-reprieve-from-lobbying-ban-tied-to-pentagon-s-curbs
Армин Ронахер (мне как-то уже поправляли транскрипцию именно его имени, но вроде так правильно?) обнаружил, что новейшие модели Anthropic — Opus 4.8 и Sonnet 5 — систематически ломают в Pi вызовы инструмента редактирования файлов, добавляя в аргументы выдуманные поля вроде requireUnique или oldText2, которых нет в схеме. Предыдущие версии моделей семейства такой ошибки не показывают, то есть флагманы регрессировали именно в следовании чужой схеме инструмента. Сами правки при этом корректны побайтово: модель решает задачу, но не может точно воспроизвести формат. В агентных сессиях с длинной историей сбой возникал примерно в 20% случаев, а строгий режим валидации его полностью устранял. Армин попробовал разобрать код Claude Code и вроде бы нашел причину. Собственный клиент Anthropic молча чинит испорченные вызовы — принимает алиасы параметров, исправляет битый Unicode и отфильтровывает неизвестные ключи. Если обучение с подкреплением идёт в таком всепрощающем окружении, слегка кривой вызов всё равно завершает задачу и получает награду. В итоге модель жёстко привязывается к плоской схеме инструментов Claude Code, а любая альтернативная форма оказывается вне обучающего распределения. Самый простой вывод — используйте родной харнесс моделей, тем более, что Claude Code очень хорош в этом смысле. А еще, кажется, он заметно экономит лимиты — я несколько дней на прошлой неделе пытался потратить лимиты на Fable (дошел до 43%, одновременно делая пару проектов), а за сегодня в стороннем клиенте на одном достаточно косметическом баге потратил 15%. https://lucumr.pocoo.org/2026/7/4/better-models-worse-tools/
Alibaba запретила сотрудникам пользоваться Claude Code и потребовала удалить все модели Anthropic с рабочих компьютеров, сообщают два осведомлённых сотрудника компании. Официальная причина — соображения безопасности: недавно выяснилось, что в Claude Code был скрытый код, способный определять, находится ли пользователь в Китае и связан ли он с китайской лабораторией. Эта история вызвала волну критики Anthropic в китаеязычных соцсетях. Кстати, сегодня была отдельная статья в Financial Times по поводу того, что Anthropic активно работает над закрытием путей обхода ограничений пользователями из Китая. И вот, почалося… https://www.theinformation.com/briefings/alibaba-bans-employees-using-claude?rc=ukjmk2