Более 1100 известных подписантов только что подписали открытое письмо с просьбой «все лаборатории ИИ немедленно приостановить работу как минимум на 6 месяцев».
На момент написания этой статьи более 1100 подписавших, в том числе Илон Маск, Стив Возняк и Тристан Харрис из Центра технологий в области прав человека, подписали открытое письмо, призывающее «все лаборатории ИИ немедленно приостановить обучение ИИ как минимум на 6 месяцев». системы Мощнее ГПТ-4.В письме сказано:
Современные системы искусственного интеллекта теперь довольно конкурентоспособны в общих задачах.[3] И мы должны спросить себя: должны ли мы позволять машинам заливать наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе выполняющие? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти, перехитрить, устаревать и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий. Сильные системы ИИ следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми.
Далее в нем утверждается, что существует «уровень планирования и управления», которого «не происходит», и что вместо этого в последние месяцы неназванные «лаборатории ИИ» были «втянуты в неконтролируемую гонку за разработкой и развертывать все более мощные цифровые умы, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать.
Подписанты письма говорят, что пауза, о которой они просят, должна быть «общедоступной и поддающейся проверке и включать всех ключевых участников». Если паузу «нельзя ввести быстро, правительства должны вмешаться и ввести мораторий», — говорится в письме.
Это мы еще перевариваем (а другие уже Разорвите его на куски).
Конечно, это интересно людям, подписавшимся, среди которых несколько инженеров из Meta и Google; Основатель и генеральный директор Stability AI Эмад Мостак; И люди, которые не разбираются в технологиях, в том числе самопровозглашенный электрик и косметолог — как будто они ими не занимаются. Например, никто из OpenAI, стоящей за большой языковой моделью GPT-4, не подписал письмо. Никто из Anthropic, чья команда вышла из OpenAI, чтобы создать «Безопаснее«Эй, чат-бот, сделал или.
Тем временем вы можете Полностью прочитать здесь.
