Почему о нем все говорят, большая часть восхищается, а эксперты просят его остановить?
✔️Во-первых, стоит разделять понятие, искусственный интеллект (ИИ) и искусственное сознание (ИС).
ИИ – свойство искусственных интеллектуальных систем выполнять аналитические и творческие функции, которые традиционно считаются прерогативой человека, на основании алгоритмов.
ИС – попытка придать ИИ функции человеческого мозга и скопировать его принцип работы – от решения задач, которые прежде не были загружены в него, до внесений изменений в принцип своей работы.
Так вот ИС на данный момент не существует. Мы имеем только самообучаемую нейронную сеть, но сознания у нее нет. Поэтому пока что все страшилки про захват искусственной системой мира именно с какой-то своей целью откладываем. А, может, и нет… Отсюда давайте подробнее.
Тем не менее, Илон Маск, Стив Возняк и более 1000 мировых экспертов призвали приостановить обучение систем искусственного интеллекта, чтобы понять, как их контролировать. На самом деле, случай типичный – правовая база и этическое регулирование не всегда поспевает за быстро меняющимся миром. Яркий пример, автопилот – если машина без водителя все-таки сбивает человека, кого будем судить: создателя, владельца или технического специалиста конкретного бренда? Подо все должно быть готово законодательство. Также, например, как сейчас активно идет регулирование криптовалют в разных странах: каждое современное государство спешно решает, как они воспринимают новую технологию и что им с ней делать.
Еще один аспект – кибербезопасность, чтобы подобные изобретения были не во вред, любые риски должны быть управляемы. Пока это не сделано, правительства должны повсеместно запретить использование и дальнейшую разработку ИИ. Также создатели письма опасаются слишком быстрого развития – на данный момент ChatGPT уже вполне конкурентоспособен человеку (ранее мы писали, что ИИ может сдавать экзамены на хорошем уровне) и, если развитие пойдет с такой скоростью, то без должного управления рисками мы просто создаем себе ум, который не только готов заменить, но и перехитрить человечество. ИИ способен обрабатывать нереальные для человека объемы информации, выносить общее и различное, находить закономерности – это прекрасно, когда речь идет о статистических данных, но где гарантии тогда, что в какой-то момент система, например, увидев закономерность смертности после какой-то болезни не решит, что тогда никого и лечить не надо – и отправит пациентов по домам? (Это, наши фантазии, но очень реальные фантазии, ведь ИИ внедряется повсеместно и медицина – одно из приоритетных направлений).
Устрашает еще и тот факт, что разработчики ИИ становятся все более скрытными относительно своих технологий и целей. Можно ли оставлять все, как есть? Конечно, нет! Что на уме у этих ребят? Зачем они скрываются и для кого делают разработки?
Вопросов больше, чем ответов. Как вы относитесь к ИИ? Согласны с нами? Какие риски и сценарии видите?
#ии #технологии #chatgpt #знаниеёмко
