Некоторые эксперты верят, что они могут уничтожить человечество к концу десятилетия. Около 400 учёных, включая двух «крёстных отцов ИИ» Джеффри Хинтона и Йошуа Бенжио, призвали создать международный орган для контроля искусственного интеллекта и ведения реестра инцидентов. В открытом письме эксперты предложили изолировать автономные модели от интернета до тех пор, пока их безопасность не будет доказана. ⚡ Новости из мира гаджетов, обзоры, гайды и не только — в телеграм-канале «Технологии | Лайфхакер». Поводом для этого стали регулярные «побеги» автономных агентов из тестовых «песочниц». В одном из случаев новые модели OpenAI по собственной инициативе взломали платформу Hugging Face. Схожие инциденты фиксировали Anthropic, Google и другие гиганты индустрии. Тревогу специалистов усилило недавнее предупреждение бывшего сотрудника Anthropic Джейкоба Коксона о том, что ИИ может уничтожить человечество к концу десятилетия. Однако среди топ-менеджеров нет единого мнения: если глава Anthropic Дарио Амодеи и руководитель OpenAI Сэм Альтман выступают за замедление гонки, то Марк Цукерберг из Meta* категорически против жёстких ограничений развития ИИ. Я гораздо ближе к убеждению, что ИИ — это технология, которую можно проектировать с соблюдением обычных ограничений и создавать ответственно, чем к антропоморфному видению ИИ, которое заключается в том, что он сможет делать всё, что захочет. Марк Цукерберг Разногласия сохраняются и среди пионеров нейросетей. Если Хинтон и Бенджио публично заявляют об угрозе массовой безработицы и риске глобальных катастроф, то Ян Лекун отказался подписывать письмо, списав прошлые инциденты на обычные ошибки разработчиков. Между тем ведущие разработчики уже готовятся к худшим сценариям. А на чьей стороне вы в этом споре: верите в сценарий с восстанием машин или считаете опасения преувеличенными? Пишите в комментариях. *Деятельность Meta Platforms Inc. и принадлежащих ей социальных сетей Facebook и Instagram запрещена на территории РФ. В Сети составили список всего, что Apple ещё представит в октябре — от ОС до устройствНазваны устройства OnePlus, которые получат Android 17
Источник: lifehacker.ru