Проблемы эффективного альтруизма выходят за рамки Сэма Бэнкмана

Сэм Бэнкман-Фрид сделал эффективный альтруизм изюминкой, но его философия максимального благотворения маскирует процветающую культуру хищнического поведения.

Эллен Хьют

Иллюстрация: Софи Галлбрантс для Bloomberg Businessweek

Преимущество подписчика

Подписаться

Соне Джозеф было 14 лет, когда она впервые прочитала «Гарри Поттер и методы рационального мышления», мегапопулярный фанфик, который переосмысливает мальчика-волшебника как жесткого эмпирика. Этот разумный Поттер проверяет заклинания своих профессоров научным методом, высмеивает любые несоответствия, которые находит, и решает все проблемы волшебников еще до того, как ему исполнится 12 лет. «Мне это понравилось», - говорит Джозеф, которая в подростковом возрасте прочитала HPMOR четыре раза. Она была нейроотличной, амбициозной американкой индийского происхождения, которая чувствовала себя неуместной в своей средней школе в пригороде Массачусетса. Эта история, по ее словам, «очень нравится умным людям со стороны».

Поиск других произведений автора фанфика Элиэзера Юдковски открыл перед Джозефом новые двери. С начала 2000-х годов Юдковский утверждал, что враждебный искусственный интеллект может уничтожить человечество за десятилетия. Это движущее убеждение сделало его интеллектуальным крестным отцом в сообществе людей, называющих себя рационалистами и стремящихся сохранять свое мышление непредвзятым, даже когда выводы пугают. Зарождающийся интерес Джозефа к рационализму также привлек ее к эффективному альтруизму, родственной моральной философии, которая стала печально известной из-за ее связи с опальным бывшим криптомиллиардером Сэмом Бэнкман-Фридом. По своей сути эффективный альтруизм подчеркивает использование рационального мышления для максимально эффективного положительного воздействия на мир. Эти отдельные, но пересекающиеся группы возникли на онлайн-форумах, где сообщения об опасностях ИИ стали обычным явлением. Но они также собрались в районе Залива, где начали обрисовывать область исследований под названием «Безопасность ИИ» — попытку сделать машины менее способными убить нас всех.