Программиста Гугла уволили за создание искусственного интеллекта?

[Ladimir]

Новое приятное событие в сюжете: роботы и люди.

Илон Маск, Стив Возняк и более 1000 экспертов призвали на полгода приостановить обучение систем искусственного интеллекта более мощных, чем GPT-4, чтобы понять, как их контролировать. Гонка в создании «мощных цифровых умов» грозит тем, что они заменят людей, предупредили они в открытом письме (...) Источник: forbes

Письмо с призывом приостановить обучение и бланком присоединения к этому коллективному воззванию. (На английском).

Машинный перевод письма на русский:

"Приостановить гигантские эксперименты с искусственным интеллектом:
Открытое Письмо

Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4.

Подписи: 1377
Добавьте свою подпись

Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества, как показали обширные исследования[1] и признано ведущими лабораториями искусственного интеллекта[2]. Как указано в широко одобренных Принципах ИИ Asilomar, продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соразмерной тщательностью и ресурсами. К сожалению, такого уровня планирования и управления не существует, даже несмотря на то, что в последние месяцы лаборатории искусственного интеллекта застряли в неконтролируемой гонке по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может понять. прогнозировать или надежно контролировать.

Современные системы искусственного интеллекта в настоящее время становятся конкурентоспособными в решении общих задач[3], и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе выполняющие? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, устаревать и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми. Эта уверенность должна быть хорошо обоснована и возрастать с величиной потенциальных эффектов системы. В недавнем заявлении OpenAI относительно общего искусственного интеллекта говорится, что «в какой-то момент может оказаться важным получить независимую оценку, прежде чем приступать к обучению будущих систем, и для самых передовых усилий согласиться ограничить скорость роста вычислений, используемых для создания новых». модели». Мы согласны. Этот момент сейчас.

Поэтому мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ более мощных, чем GPT-4. Эта пауза должна быть общедоступной и поддающейся проверке, и в ней должны участвовать все ключевые участники. Если такую паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий.

Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта, которые тщательно проверяются и контролируются независимыми внешними экспертами. Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений безопасны.[4] Это не означает паузу в развитии ИИ в целом, а просто шаг назад от опасной гонки к все более крупным непредсказуемым моделям черного ящика с появляющимися возможностями.

Исследования и разработки в области искусственного интеллекта должны быть переориентированы на то, чтобы сделать современные мощные современные системы более точными, безопасными, интерпретируемыми, прозрачными, надежными, согласованными, заслуживающими доверия и лояльными.

Параллельно разработчики ИИ должны работать с политиками, чтобы значительно ускорить разработку надежных систем управления ИИ. Они должны как минимум включать: новые и дееспособные регулирующие органы, занимающиеся вопросами ИИ; надзор и отслеживание высокопроизводительных систем искусственного интеллекта и больших пулов вычислительных мощностей; системы происхождения и водяных знаков, помогающие отличить настоящие от синтетических и отслеживать утечки моделей; надежная экосистема аудита и сертификации; ответственность за вред, причиненный ИИ; надежное государственное финансирование технических исследований безопасности ИИ; и хорошо обеспеченные ресурсами институты для преодоления серьезных экономических и политических потрясений (особенно демократии), которые вызовет ИИ.

Человечество может наслаждаться процветающим будущим с ИИ. Добившись успеха в создании мощных систем ИИ, мы теперь можем наслаждаться «летом ИИ», во время которого мы пожинаем плоды, разрабатываем эти системы на благо всех и даем обществу возможность адаптироваться. Общество приостановило использование других технологий с потенциально катастрофическими последствиями для общества.[5] Мы можем сделать это здесь. Наслаждаемся долгим летом с искусственным интеллектом, а не бросаемся в осень (в пропасть) неподготовленными".

Подписи

Список подписантов приостановлен из-за высокого спроса
Из-за высокого спроса мы все еще собираем подписи, но приостанавливаем их появление в письме, чтобы наши процессы проверки могли наверстать упущенное. Также обратите внимание, что все подписи в верхней части списка проверяются независимо и напрямую.

Собираюсь присоединить свою скромную подпись к этому письму.
А вы насчет всего этого что думаете?
Полгода - маловато, имхо, но хоть что-то: первый реальный шаг в ситуации: "...Вдоль обрыва, по над пропастью, по самому по краю..."

[HappySoftX]

Прогресс не остановить. Те кто не будет использовать проиграют.

[Ladimir]

Сообщение от HappySoftX

Прогресс не остановить. Те кто не будет использовать проиграют.

Ну, да. Запрет разжигает желание.
Это, примерно, как древняя китайская монополия на шёлк. Он появился в Китае около четырёх тысяч лет до нашей эры.
Вики:

Хотя шёлк был хорошо известен в Европе и большей части Азии, Китаю удавалось поддерживать почти полную монополию на шелководство. Монополия была защищена императорским указом, любой, кто пытался экспортировать шелковичных червей или их яйца, приговаривался к смерти. Только около 300 года н. э. японская экспедиция добилась успеха, заполучив некоторое количество яиц тутового шелкопряда и четырёх молодых китайских девушек, которых заставили научить своих похитителей искусству производства шёлка

.

Только в 552 году н. э. византийскому императору Юстиниану были доставлены первые яйца тутового шелкопряда. Он послал двух несторианских монахов в Центральную Азию, которые смогли принести ему их, спрятанными в стеблях бамбука. До возвращения монахов яйца успели вылупиться, но коконы ещё не сформировались. Таким образом, Византийская церковь получила возможность изготавливать ткань для императора с прицелом создания в дальнейшем большой шёлковой промышленности в Восточной Римской империи ...

Монахи передают Юстиниану Первому шелковичных червей.

[юни]

Сообщение от Ladimir

Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, устаревать и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?

Можно, конечно, порассуждать на тему, насколько данные эксперты компетентны в предмете, о котором пытаются говорить, но дело, ИМХО, значительно проще: люди пытаются выиграть время с помощью внеэкономических методов давления на конкурентов.

Ничего нового.

К слову, с шёлком тоже знакомая история. Вообще-то шелкопряды распространены не только в Китае, а культивирование китайцами продуктивных видов тысячи лет назад вызывает много вопросов. Можно предположить, что легенда о китайском происхождении шёлка поддерживалась его итальянскими производителями ради удержания высокой цены на товар.

В общем, тоже ничего нового.

[Ladimir]

Сообщение от юни

Можно, конечно, порассуждать на тему, насколько данные эксперты компетентны в предмете, о котором пытаются говорить, но дело, ИМХО, значительно проще: люди пытаются выиграть время с помощью внеэкономических методов давления на конкурентов.

Ничего нового.

Думаю, что элемент грязной подковёрной борьбы в этом воззвании есть, но, скорее всего, в нём делается реальная, но пока довольно слабая попытка спасти человеческую цивилизацию.

Есть, есть новое-то ...

По сути - мы переживаем первый глобальный вызов самому виду хомо сапиенс. Тест на выживаемость.

Моё внутреннее чувство говорит, что люди, скорее всего, этот экзамен провалят и беспомощно сойдут с арены эволюции, как сошли их предшественники - неандертальцы, не способные из-за строения своего речевого аппарата договариваться между собой и сбиваться в большие банды.

Так и хомо сапиенсы исчезнут как вид, неспособные из-за своей агрессивности, жадности и властолюбия принимать и выполнять общечеловеческие решения.

Перефразируя афоризм столетней давности, хочется воскликнуть: "Человек - это звучит горько!".

[lkolobok]

Пока до настоящего ИИ слишком далеко. В текущем виде это просто обученные сильнее многих нейросетки, обученные отвечать на тупые вопросы и рисовать картинки.
Просто довольно удачный инструмент
Единственная угроза которую он несет человечеству - это возможный всплеск безработицы людей - за место которых можно использовать данный алгоритм. Назвать его ИИ - рука не поднимается.
И то вопрос встанет так, что дешевле - использование чужих алгоритмов, или труд наемных рабочих.
Напомню что в дуэли роботы доставщики vs курьеры, пока с газгромным счетом ведут курьеры, потому что они сильно дешевле

[Неуч]

Сообщение от lkolobok

Пока до настоящего ИИ слишком далеко. В текущем виде это просто обученные сильнее многих нейросетки, обученные отвечать на тупые вопросы и рисовать картинки.
Просто довольно удачный инструмент
Единственная угроза которую он несет человечеству - это возможный всплеск безработицы людей - за место которых можно использовать данный алгоритм. Назвать его ИИ - рука не поднимается.
И то вопрос встанет так, что дешевле - использование чужих алгоритмов, или труд наемных рабочих.
Напомню что в дуэли роботы доставщики vs курьеры, пока с газгромным счетом ведут курьеры, потому что они сильно дешевле

На сегодняшней день - это просто медийный шум с целью намутить денег, да побольше. чатгпт - по сути - это попытка сделать ИИ рерайтера. Но довольно стремная. Лучше нанять копирайтера. А вот картинки в минжорни - очень не плохие) Вполне хорошая замена низкопробным "дизайнерам" (именно в кавычках).

Как я уже писал, нейросети использую с 2014-2015 года. Генеренку текстов - последние года 2-3 (разные варианты, и джаспер, и недавний чатгпт). Но генеренка на то и генеренка, что б сателиты делать (PBN).

В данном случае, я полностью согласен с вашем мнением. До ИИ как до Китая из Африки пешком через Северный полюс.

[vastmanager]

В неконтролируемом распространении ИИ таится серьёзная угроза.

Вот недавно известный джедай Оби-Ван Кеноби предостерегал участников этого форума:
https://se.guru/showpost.php?p=336986&postcount=24
https://se.guru/showpost.php?p=336987&postcount=25

Галактика в опасносте..

[Каширин]

Сообщение от lkolobok

Напомню что в дуэли роботы доставщики vs курьеры, пока с газгромным счетом ведут курьеры, потому что они сильно дешевле

В бедных странах - конечно, а в США курьер стоит 60 тысяч долларов в год и выше, и это без налогов! Робот, купленный за 80 тыс долларов, окупится за год.

Проблема не в долларах, а в законах. В США дрон запускать нельзя в Нью-Йорке, а в других штатах можно, но нужны права на вождение дрона А ты про роботов-курьеров говоришь.

[Каширин]

Сообщение от Неуч

чатгпт - по сути - это попытка сделать ИИ рерайтера

Это смотря как использовать Это как интернет - кто-то гифки качает, а кто-то чего другое делает.

Вот, например, начало диалога с чатГПТ. А дальше он готовый код на Питоне пишет.