В истории с чудесным спасением самолета FlyDubai над Израилем самое интересное, на наш занудный взгляд, не то, что на рейсе в Израиль магическим образом оказались врач. два пилота и некоторое количество людей с армейской подготовкой, сумевших скрутить пилота-террориста.
Для тех, кто знает, как устроен Израиль и как работает примерно любая авиакомпания, это все совершенно не сногсшибательные совпадения - чисто статистически такой набор может лететь на примерно каждом втором самолете, и с еще большей вероятностью - на самолете в Тель-Авив. И для этого даже не обязательно, чтобы рейс выполняла известная своей (вполне оправданной) паранойей авиакомпания Эль Аль.
Для нас в этой истории самое удивительное - то, что пилот-гражданин Омана, который пытался зарезать капитана и уронить самолет на Тель-Авив, оказывается, был уже однажды отстранен от полетов в авиакомпании Oman Air за экстремистские взгляды, и переведен на административную должность. А потом он поработал в марокканской Air Maroc, после чего откликнулся на вакансию в FlyDubai, и был мало того, что принят на должность пилота, так еще и допущен к выполнению рейсов в Израиль (куда по специальному межгосударственному соглашению не должны допускаться пилоты из стран, не имеющих дипотношений с Израилем, а Оман - одна из них).
Если отказаться от теорий заговора (которых вокруг этого полета уже создано в количестве “мама не горюй”), и признать, что это конкретный факап эйчара и СБ авиакомпании FlyDubai, то вы сразу поймете, что этот пост - о проблеме, известной каждому приличному кадровику - о процедуре проверки кандидата перед приемом на работу, в международных компаниях известной как background check.
Это в целом сравнительно простая штука, если компания работает в России и вы проверяете российского гражданина, всю жизнь прожившего в России. Тут трудовые книжки, полицейская, военная и миграционная бюрократия с завидной точностью позволяют понять, что, когда и почему. Но даже с иностранными гражданами в России все значительно сложнее, а уж в международном бизнесе у эйчара с этим начинается полный кошмар.
Для обычного эйчара, не работающего непосредственно на крупное государство с развитыми спецслужбами, в мире существует несколько глобальных поставщиков услуг проверки кандидатов. И как правило, они в состоянии бегло проверить, не происходили ли с кандидатом истории криминального характера в тех юрисдикциях, в которых он проживал, совпадает ли заявленная кандидатом история географических перемещений с его официальным резидентством, и иногда - за отдельную плату - действительно ли кандидат работал в упомянутых в его резюме компаниях.
Но есть нюансы, основной из которых заключается в том, что любые подобные проверки основываются на сведениях, поданных самим кандидатом. То есть вы можете пожить в нескольких странах, в одной из них натворить разных дел, и при проверке просто не указать, что вы там жили. Да, конечно, подавая сведения, вы ставите галочку в стиле “все предоставляемые мной сведения правдивы”, но если ваша задача - не проработать в компании долго и счастливо, а за пару месяцев совершить какую-нибудь пакость или найти повод подать на компанию в суд при увольнении за дискриминацию по группе крови, вы в целом можете и рискнуть.
Последнее время, благодаря нейросетям, можно довольно быстро провести поиск открытых материалов судов и спецслужб по имени и фамилии. Но от случаев типа кейса нашего неудачливого террориста, когда никаких данных об отстранении от полетов две работы назад в открытых источниках вряд ли можно было найти, такое не спасает. Слава богу, что у большинства эйчаров цена ошибки на бэкграунд-чеке - не жизни людей, а “спасибо господи, что взял деньгами”.
В общем, если неделя у вас с самого начала не задалась, то вспомните, что где-то грустит один эйчар FlyDubai, который принял на работу того самого бармалея.
4K6 окт.
У одного из наших источников появилась коллега, которая каждое сообщение в корпоративном мессенджере превращала в “Войну и Мир” - размером с три поста в нашем уютном канальчике, с огромным количеством обоснований, аргументов, контраргументов на будущие аргументы собеседника и прочая и прочая. И все бы хорошо, только ту же мысль в большинстве случае можно было написать в трех предложениях с ровно тем же эффектом. Лев Николаевич позавидовал бы.
Стоит ли говорить, что сообщения эти она писала с помощью “сотрудника месяца”, как в компании называли недавно внедренный корпоративный ИИ-агент? Дошло до того, что коллеги отправляли ее сообщения тому же агенту, чтобы получить краткое содержание литературного произведения, и понять, что имелось в виду. Нашлись и остроумцы, которые после этого писали доморощенной Джоан Роулинг ответы в трех предложениях, а потом просили агента увеличить свой ответ до ее масштабов - и отправляли ей эту версию.
Цирк закончился, когда одно из таких сообщений попало к начальнику ИТ-департамента, который не просто был воспитан в духе “пиши-сокращай”, так еще и отвечал за бюджет на токены. После предсказуемо случившегося скандала в компании официально запрещено писать друг другу сообщения с помощью LLM.
Это мы к тому, что ИИ - как любой инструмент общего назначения, не делает людей лучше или хуже, а всего лишь усиливает все их черты, хорошие и плохие. Кто-то начинает делать качественнее и детальнее, потому что знает как формулировать задачи, давать железяке контекст и инструменты, и не ленится делать десятки итераций и исправлять ошибки, А кто-то начинает производить гигабайты трэша и угара, завернутого в красивую упаковку, потому что, так уж вышло, ИИ воспроизводит форму значительно лучше, чем содержание.
А значит, вопрос этикета совместной работы (и отношения к качеству собственной работы) в эпоху ИИ встает с новой силой, потому что “продуктивность” одних людей другие потом бесплатно разгребают.
Отдельный забавный эпизод состоит в том, что часть начальников, получая прекрасные до блеска отполированные ИИ-материалы, совершенно не разбирается в их содержании и без критики транслирует все это наверх, где на основе этого дела принимаются решения.
Не то чтобы это было новостью - многие руководители и раньше работали исключительно говорящими головами. Есть даже весьма комплиментарная для таких персонажей (и чего уж, не совсем бессмысленная) теория, что начальник - это не человек, который лучше всех разбирается в предмете, а тот, кто открывает двери и убирает с дороги политические и организационные препятствия.
Но раньше у балаболов был хотя бы шанс создать компетентную команду из интровертов с обсессивно-компульсивным расстройством, разбирающихся не только в предмете деятельности, но и в контексте организации. А теперь вместо них контент начальнику генерит никем не проверяемый ИИ, и такой тандем может привести к весьма разрушительным результатам.
В общем, кажется у нас есть неплохой аргумент для сторонников теории ИИ-апокалипсиса, Есть надежный способ, как ИИ может похоронить цивилизацию - утопить ее в корпоративном абсурде и формалистике, за которыми будет скрываться откровенный булшит, и с этим наплывом отполированного шлака немногие оставшиеся разумные люди просто не справятся.
Такая булшит-сигнулярность в форме абсолютной итальянской забастовки, апофеоз кафкианской антиутопии на новом технологическом уровне. А что, вполне себе. Доработаем до полноценной теории, напишем книгу и пойдем вместо Юваля Харари к Лексу Фридману вещать про перепрошитую операционную систему человечества.
4.6K2 окт.
Часть наших читателей уже начала над нами посмеиваться в том духе, что мы теперь не WTF_HR а WTF_AI, потому что про эйчар мы если и пишем, то только в контексте, того, отберут ли роботы всю вашу работу и когда. К тому же, мы давно хотели все-таки сесть и написать что-то про последние события в мире ИИ, включая взлом HuggingFace и вообще будущий захват мира этим самым ИИ.
Но вот как к этому подступиться, учитывая, что скромный коллектив авторов уютного канальчика - ни разу не инженеры, а совсем даже эйчары, которые просто иногда рядом с инженерами стоят? И тут мы натолкнулись на гениальную статью, которую просто не можем не прокомментировать, ибо наболело.
Итак, издание Business Insider пишет, что на загнивающем Западе некоторые сотрудники жалуются, что неожиданно из индивидуальных исполнителей стали руководителями для ИИ, но за это самое руководство как дополнительную нагрузку не получают дополнительных денег.
Прямо так и пишут, да, “стали руководителями для AI-сотрудников”, и даже аргументируют это тем, что уделяют “руководству” AI-сотрудников (то есть формулировкке заданий для AI и проверке результатов их деятельности) больше рабочего времени, чем ручному труду, который положен честному индивидуальному исполнителю.
Хочется рассказать сотрудникам Business Insider, что руководителям платят деньги далеко не только за выдачу заданий и контроль результатов. Нормальный руководитель занимается оценкой, развитием, наймом, увольнением, вытиранием соплей, вдохновением, разруливанием конфликтов между своими и своих с чужими, защищает своих людей от начальства в грозном настроении, продвигает их идеи перед начальством в добром настроении, принимает окончательные решения и берет на себя ответственность за действия подчиненных в сложных ситуациях, и прочая и прочая.
А люди эти, меж тем, бывают непомерно амбициозными и чрезмерно неуверенными в себе, бывают подлыми и жертвенными, бывают прямыми и изворотливыми, бывают скромными и напоказ - и все эти свои особенности с удовольствием вываливают на начальника и коллег - а начальнику в условиях всех этих странностей нужно лепить из этих странных существа результат в условиях неопределенности. И платят менеджерам за вот это, а вовсе не за промпт и фактчекинг.
Уходил ли у вас когда-нибудь к конкурентам Клод, потому что вы ему на регулярной оценке поставили “ниже ожиданий” и не повысили до следующей версии, а у него семья, ипотека, больная теща в Саратове и на все это не хватает токенов? Случалось ли, что недавно нанятый Квен вступил в конфликт с давно работающим Дипсиком из-за трудовых обязанностей, в результате чего Дипсик устроил истерику и ушел на больничный, поставив под угрозу важный проект? Было ли так, что прекрасно продавший себя на интервью Грок оказался самозванцем, но умело скрывал это до окончания испытательного срока, а теперь тянет из вас и вашего юрдепа деньги в суде, оспаривая увольнение, а трудовой кодекс внезапно оказывается на его стороне? И, наконец, приходилось ли вам разруливать эпизод, когда Чатик Джипити и Gemini напились на корпоративе и занялись бурным сексом на вашем рабочем столе, где их и обнаружил сисадмин?
Все это нам хотелось бы спросить у тех, кто фанатично, доводя себя до исступления занимается очеловечиванием статистических моделей, предсказывающих следуюее слово. Но вместо этого, чтобы все звучало совсем по-идиотски, как оно того и заслуживает, мы просто попросим всех этих новоявленных руководителей заменить слово “ИИ” на слово “принтер”. “Платите мне больше, ведь теперь я руковожу принтером” - это звучит гордо. И это все, что мы думаем по поводу так называемых “ИИ-сотрудников” и “руководства” ими.
7.1K24 сент.
Весь западный интернет смеется с Дарио Амодеи, основателя компании Anthropic, который переживает, что новые сотрудники его компании работают только за деньги, а совсем не за великую и прекрасную идею. Мол, наивный мальчик, а за что же еще им работать? Но мы утверждаем, что Дарио, которого многие считают классическим сумасшедшим ученым, говорит дело.
Для тех, кто не в курсе, создатели Антропика в своё время ушли из OpenAI под двумя соусами. Публично, они утверждали, что OpenAI недостаточно заботится о предотвращении зомби-апокалипсиса из-за AGI, а потому недостоин быть лидером ИИ-гонки. Непублично считалось, что Антропик на тот момент просто собрал всех хейтеров Сэма Альтмана, персонажа действительно весьма неоднозначного.
С тех пор хейтеры не только догнали, но и перегнали объект хейта. Модели от Anthropic считаются на данный момент самыми передовыми, а, благодаря ставке на корпоративный ИИ где денег больше, чем у физиков, Антропик сейчас растет быстрее OpenAI.
Поэтому главная мысль, которую Дарио вряд ли когда-нибудь скажет вслух, на самом деле звучит так: “мы боимся, что компания перестанет быть сектой и станет просто бизнесом”.
Слово “секта” мы используем без оценки - исключительно в смысле “группа людей, объединенная общими религиозными убеждениями”. Антропик, например - это секта свидетелей опасного AGI, и убеждение это основано не столько на фактах (объект изучения настолько сложен, что плохо поддается бесспорному доказательству). сколько на вере, что “если за этой штукой не присматривать, то рано или поздно долбанет. А мы - как раз те люди, которые делают так, чтобы и человечеству было хорошо, и не долбануло”.
Любой нормальный CEO должен мечтать о роли лидера секты. Не из-за “темной триады”, а потому что секта - значительно более удобный и эффективнывй объект управления, чем обычный бизнес.
Для начала членов секты не переманишь к конкурентам просто деньгами, им нужно предложить более убедительную религию, чем у них есть. А это по-настоящему сложно. Кроме того, в секте проще внедрить определенные принципы поведения. Например, одна из версий того, почему передовые модели Антропика сейчас номер один в мире - это как раз искреннее стремление сотрудников соблюдать принципы максимальной безопасности в разработке ИИ.
И, наконец, если ваши религиозные убеждения совпадают с потребностями (а лучше страхами) ваших клиентов - это помогает продавать. Корпоративные ИТ-начальники со значительно большим рвением купят у людей, помешанных на безопасности, потому что провал в безопасности - это ночной кошмар любого корпоративного айтишника.
Не поймите нас неправильно - в Антропике работают не альтруисты - платят им так же хорошо, а то и лучше, чем и в компании, которую они хейтят. Но вера страхует от переманивания персонала, обеспечивает нужную культуру и помогает продавать. Потерять все эти преимущества, если культура размоется с приходом тысяч новых людей - по-настоящему страшно для бизнеса. Так что мы вполне понимаем Дарио.
7.3K13 авг.
Про интернет-страшилки по поводу возможностей новых ИИ-моделей - и причем тут люди.
Если вы не в курсе, производители топовых американских моделей любят пугать людей их возможностями. В основном этим увлекался последнее время Anthropic, но и OpenAI тут не без греха. Вот буквально вчера ведущие мировые СМИ написали, что “модель от OpenAI вырвалась из защищенной среды и взломала компанию HuggingFace”.
Читается это как будто наш любимый пушистый чатик GPT, на которого случайно пролили компьют после полуночи, превратился в гремлина, размножился и теперь полчища лангольеров пожирают интернет.
Мы попросили одного из наших источников, находящегося довольно близко к эпицентру зомби-апокалипсиса, описать ситуацию. И пока наши читатели приходят в себя от обилия дедовых мемов в предыдущем абзаце, попробуем перевести его слова на дилетантский (просим прощения у специалистов за неминуемые неточности).
Во-первых, пушистый чатик тут почти не виноват. Для эксперимента использовалась агентская система, использующая комбинацию самой мощной и дорогой на данный момент модели GPT 5.6 Sol и “еще не выпущенной новейшей модели”, у которых, к тому же, отключили все внутренние ограничения, касающиеся кибербезопасности. Более того, для проведения эксперимента получившемуся франкензавру вручили набор софта, который по-английски называется harness - “упряжка”. Этот набор содержал инструменты для хакинга, заботливо собранные специально обученными людьми.
Во-вторых, моделька не сама “вырвалась”. Ей дали довольно конкретное задание и даже сказали, какую именно уязвимость системы следует эксплуатировать (но не сказали, как). А еще ей обеспечили количество вычислительных мощностей, которое даже самая богатая хакерская группировка не факт, что в состоянии себе позволить.
В рамках эксперимента накормленная стероидами, оснащенная мечом-кладенцом и окропленная живой водой агентская система действительно совершила несколько интересных штук - например, решила задачку эксплуатации уязвимости несколько оптимальнее, чем предполагалось, нашла новую уязвимость во внутренних системах OpenAI, а также, чтобы получить нужную для следующего шага информацию, зашла на глобальный репозиторий (хранилище) кода для моделей (это и есть HuggingFace), и даже получила там доступ к данным, обычно закрытым для публики.
Подобные эксперименты с моделями - это давно и хорошо известная штука, и наборы задачек для них (aka бенчмарки) существуют для многих областей, в том числе для кибербезопасности. И достижениями по этим бенчмаркам принято мериться. Но все это похоже на запуск самой быстрой машины в мире на идеально гладкой поверхности в пустыне Невада, когда ради трехминутного пробега на околозвуковой скорости болид годами готовит группа дорогущих инженеров за десятки миллионов долларов.
Если у вас есть неограниченное количество денег и команда топовых хакеров (как у OpenAI), то последняя ИИ-модель со снятыми ограничениями и нужным инструментарием действительно может расширить ваши возможности и сэкономить вам кучу времени на совершение разных злодейств. И это кое-что говорит о том, кому ИИ действительно дает преимущество, и чего (а точнее, кого) действительно боятся производители этих самых моделей - и правильно боятся.
Но именно поэтому офисы топовых ИИ-лабораторий охраняются как секретные объекты, а даже в очень дорогих публичных моделях стоит такое количество внутренних ограничений, что их придется долго упрашивать взломать даже бабушкин ноутбук.
Так что апокалипсис пока отменяется, идем на работу и совершенствуемся в своем деле.
