"Мир в опасности": Глава отдела безопасности ИИ компании Anthropic уходит в отставку, не в силах совместить свою работу с ценностями

В своем прощальном письме Шарма не только излагает причины своего ухода, но и делает суровое предупреждение: "Мир находится в опасности" Он описывает текущую ситуацию как "поликризис", в котором одновременно разворачиваются несколько взаимосвязанных кризисов. По его словам, это уже происходит. Он ясно дает понять, что его опасения не ограничиваются техническими угрозами, такими как искусственный интеллект или биооружие, а распространяются на более широкий спектр взаимосвязанных глобальных кризисов - включая растущую геополитическую напряженность.

Шарма подчеркивает, как трудно отстаивать свои ценности в повседневной работе. Даже организации с твердыми принципами сталкиваются с постоянным давлением, вынуждающим их менять приоритеты или идти на прагматичные компромиссы. Anthropic представляет себя как альтернативу другим ведущим компаниям в области искусственного интеллекта, ориентированную на безопасность и ориентированную на ценности, что делает его критику еще более значимой.

Шарма планирует изучать философию - сообщество реагирует с уважением

Примечательно, что Мринанк Шарма планирует полностью уйти из технологической индустрии и вместо этого изучать философию. В целом, сообщество X отреагировало на это с уважением и пониманием. Многие пользователи хвалят его работу в области безопасности ИИ и желают ему всего наилучшего. Некоторые критики утверждают, что он мог бы оказать большее влияние, если бы остался в компании. Шарма возражает, что пребывание вне организации дает ему больше свободы для открытых высказываний. Это говорит о том, что он может продолжать следить за развитием событий в технологическом секторе и делиться своими взглядами на расстоянии.

Помимо его высказываний о глобальных кризисах, прощальное письмо Шармы также содержит ссылки, которые привлекли внимание. В сносках он цитирует работу о так называемом "Космоэротическом гуманизме", опубликованную под псевдонимом Дэвид Дж. Темпл. Сообщается, что это имя связано с Марком Гафни, духовным учителем, который в прошлом подвергался критике в связи с обвинениями в сексуальных проступках. Хотя Шарма не комментирует эту связь, упоминание вызвало вопросы об интеллектуальном влиянии, стоящем за его решением уйти в отставку.

Пока неясно, как отставка Шармы повлияет на будущее Anthropic. Компания, стоящая за чатботом Claude, в настоящее время проводит масштабную рекламную кампанию, продвигая своего ИИ-помощника как альтернативу без рекламы. В этом контексте время его ухода может оказаться неудобным.