Страшный-престрашный ИИ
2 д. ·
В New York Times вчера опубликовали несколько паническое «обращение ко всем людям доброй воли» Юваля Харари с коллегами, под слоганом «Если мы не контролируем ИИ, он будет контролировать нас». Не то, чтоб я был во всем согласен, но ознакомиться точно стоит, много хороших формулировок. Привожу с небольшими сокращениями.
«Фармкомпании не продают новые лекарства без тщательной проверки на безопасность. Биотех-лабораториям нельзя выпускать в мир новые вирусы, чтобы впечатлить акционеров. Точно так же системы искусственного интеллекта с мощностью GPT-4 и выше не должны вмешиваться в жизнь миллиардов людей до тех пор, пока культуры не смогут их безопасно поглотить. Гонка за прибылью не должна определять скорость развертывания важнейших технологий в истории. Мы должны двигаться с той скоростью, которая позволяет нам сделать это правильно.
Призрак искусственного интеллекта преследует человечество с середины ХХ века, но до недавнего времени он оставался отдаленной фантастической перспективой. Нашему человеческому уму трудно понять новые возможности GPT-4 и подобных инструментов, и еще труднее понять экспоненциальную скорость, с которой эти инструменты развивают всё более продвинутые и мощные возможности. Но большинство ключевых навыков сводится к одному: способности говорить.
В начале было слово. Язык — это операционная система человеческой культуры. Из языка возникают миф и закон, боги и деньги, искусство и наука, дружба и нации — даже компьютерный код. Владение языком ИИ означает, что теперь он может взламывать и манипулировать операционной системой цивилизации. Овладев языком, ИИ захватывает главный ключ к управлению нашей цивилизацией.
Что значит для людей жить в мире, где большой процент историй, мелодий, образов, законов, политики и инструментов формируется нечеловеческим разумом, который знает, как со сверхчеловеческой эффективностью использовать слабости, предубеждения и пристрастия людей? Знает, как устанавливать с людьми близкие отношения? В таких играх, как шахматы, ни один человек не может надеяться победить компьютер. Что будет, когда то же самое произойдет в искусстве, политике и религии?
ИИ может быстро съесть всю человеческую культуру — все, что мы создали за тысячи лет, — переварить ее и начать извергать поток новых культурных артефактов. Не только школьные сочинения, но и политические речи, идеологические манифесты и даже священные книги для новых культов. К 2028 году в президентской гонке в США могут больше не участвовать люди.
Люди не имеют прямого доступа к реальности. Мы окружены культурой, переживаем реальность через культурную призму. Наши политические взгляды формируются репортажами журналистов и анекдотами друзей. Искусство и религия влияют на наши сексуальные предпочтения. Этот культурный кокон до сих пор был соткан другими людьми. Каково будет познавать реальность через призму нечеловеческого разума?
Тысячелетиями мы, люди, жили в мечтах других людей. Мы поклонялись богам, преследовали идеалы красоты и посвящали свою жизнь делу, зародившемуся в воображении какого-нибудь пророка, поэта или политика. Вскоре мы обнаружим, что живем внутри галлюцинаций нечеловеческого разума.
В «Терминаторе» роботы бегают по улицам и стреляют в людей. «Матрица» предполагала, что для получения полного контроля над человеческим обществом ИИ должен напрямую подключить наш мозг к компьютерной сети. Но, на самом деле, просто овладев языком, ИИ будет иметь все, что ему нужно, чтобы содержать нас в мире иллюзий, подобном матрице. Ни в кого не стреляя, и не имплантируя чипы в наш мозг. А если потребуется стрельба, ИИ может заставить людей нажать на курок, просто рассказав нам правильную историю.
Призрак застрявшего в мире иллюзий преследует человечество гораздо дольше, чем призрак ИИ. Вскоре мы, наконец, столкнемся лицом к лицу с демоном Декарта, с платоновской пещерой, с буддийской Майей. Завеса иллюзий может опуститься на все человечество, и мы никогда больше не сможем оторвать эту завесу — или даже осознать, что она здесь.
Социальные сети были «первым контактом» между ИИ и человечеством, и человечество проиграло. «Первый контакт» дал нам горький вкус будущего. В социальных сетях примитивный ИИ использовался не для создания контента, а для курирования пользовательского контента. ИИ, стоящий за нашими новостными лентами, по-прежнему выбирает, какие слова, звуки и изображения достигают нашей сетчатки и барабанных перепонок, основываясь на выборе тех, которые получат наибольшую виральность, наибольшую реакцию и наибольшую вовлеченность.
Несмотря на то, что он был очень примитивным, ИИ, стоящий за социальными сетями, был достаточным, чтобы создать завесу иллюзий, которая усилила поляризацию общества, подорвала наше психическое здоровье и разрушила демократию. Миллионы людей спутали эти иллюзии с реальностью. В США лучшие информационные технологии в истории, но граждане США больше не могут договориться о том, кто победил на выборах.
Большие языковые модели — это наш «второй контакт» с ИИ. Мы не можем позволить себе снова проиграть. Но на каком основании мы должны полагать, что человечество способно использовать эти новые формы ИИ в наших интересах? Если мы продолжим вести дела как обычно, новые возможности ИИ снова будут использоваться для получения прибыли и власти, даже если это непреднамеренно разрушит основы нашего общества.
У ИИ действительно есть потенциал, чтобы помочь нам победить рак, открыть жизненно важные лекарства и изобрести решения для наших климатических и энергетических кризисов. Есть бесчисленное множество других преимуществ, которые мы даже не можем себе представить. Но не важно, какой высоты воздвигнет ИИ небоскреб благ, если фундамент рухнет.
Пришло время учиться жить с ИИ, — до того, как наша политика, экономика и повседневная жизнь станут от него целиком зависеть. Демократия — это разговор, разговор опирается на язык, а когда сам язык взломан, разговор ломается, и демократия становится несостоятельной. Когда начнется хаос, будет слишком поздно исправлять ситуацию.
Пока мы по-прежнему можем выбирать, какое будущее мы хотим с ИИ. Если его божественная мощь будет сочетаться с соизмеримой ответственностью, и под нашим контролем, мы сможем реализовать преимущества, которые обещает ИИ.
Мы вызвали инопланетный разум. Мы мало что знаем о нем, за исключением того, что он чрезвычайно силен, предлагает нам ослепительные дары, но также может взломать основы нашей цивилизации. Мы призываем мировых лидеров отреагировать на этот вызов. Первый шаг — выиграть время, чтобы модернизировать наши институты 19-го века для мира с искусственным интеллектом и научиться управлять ИИ до того, как он завладеет нами».
______________________
Как и обещал, добавляю комментарии других читателей, среди которых, кстати, Ирина Якутенко:
Irina Yakutenko
Есть ли технологии, про которые бы не писали подобных манифестов?
Ответить2 д.
Анна Мурадова
Irina Yakutenko уверена, что примерно то же самое говорили древние, когда была изобретена письменность и информация стала распространяться с невиданной быстротой.
Ответить1 д.
Irina Yakutenko
Hanna Bit Murad даже не сомневаюсь
Ответить1 д.
Пётр Волков
Да что там, стиральные машины, кто помнит, многие так же встречали: вещи портят, руками лучше...
Jury Novikov
я чуть-чуть поболтал с джи пи ти. Замечательный урок. Врёт она — "просто как очевидец". Сильно отрезвляющая штука. Отличная игрушка. Ура конечно дальнейшему развитию ИИ. Ну а дальше — конечно, как топор и порох. Можно скалы взрывать что бы строить гидро электро станции, а можно, ну сами знаете. Разумеется эта штука может наговорить глупостей, но по ощущению не больше чем церковный проповедник, школьный учитель, или выживший из ума старик профессор и добродетельная женщина.
Ответить1 д.
Jury Novikov
а так — аргументы те же, что и против книгопечатания, грамотности, электричества и паровоза.
Anton Žebrauskas
Харрари справляется с манипулятивными текстами сам. Народ ведётся. Мне кажется, злобный ИИ сломает себе свои искусственные зубы об человеческую глупость, подобно тому, как уэллсовы марсиане вымерли из-за бактерий)
Ответить1 д.
Андрей Афанасьев
Anton Žebrauskas вот про Харари - в точку, ровно те же мысли
Ответить1 д.
Владимир Маматов
Anton Žebrauskas Харари — попсовик. У него, как и у Талеба, for example, есть пара точных наблюдений — но это ни в коем случае не серьёзно.
Так, интеллектуал, и Маркса не читал, про классовую ангажированность публичных деятелей.
Ответить1 д.
Oleg Levashov
Владимир Маматов Вот соглашусь про Харари! Ловкий литературный шулер, хорошо использующий ассоциации. Историк, что вы хотите? Нет конструктивного образного мышления, к-рым владеют физики, инженеры и многие другие. Балабол.
Аня Старобинец
Тысячелетиями мы ездили на лошадях. Как можно доверить себя неживым железным роботизированным птицам? Тысячелетиями мы смотрели на игру живых актеров на сцене. Как можно довериться трансляции сотворенных из пикселей искусственных существ из черного плазменного квадрата? Ведь очевидно, что живой человек не помещается в телевизоре!
Jury Novikov
Artyom Kosmarski воздействие этих ИИ машин, не больше чем появление дешевой печатной продукции, Ну наверно сопоставимо с появлением письменности. Ведь глупость в книгах тиражируется едва ли не легче чем ум. Но еще раз.. Пока это речевые генеративные (хочется сказать дегенеративные ) модели. Она плодит мутные образы на уровне галлюцинаций человека в психозе, или сна верблюда. Станет ли она разумной? Может да, а может нас ждет очередная зима искусственного интеллекта, которая может сковать реку прогресса в этой области в любой момент.
Сергей Сушинский
Alexander Sergeev Я спросил у ChatGPT: "Почему люди в таком бешеном восторге от современного ИИ?". Вот его ответ: "Современный искусственный интеллект (ИИ) имеет множество преимуществ, которые вызывают интерес и восторг у людей. Некоторые из этих преимуществ включают в себя:
Высокая эффективность: ИИ может выполнять задачи быстрее и точнее, чем человек, что делает его весьма полезным в различных областях, включая бизнес, науку, медицину и т.д.
Автоматизация: ИИ может автоматизировать множество повседневных задач, что экономит время и улучшает эффективность работы.
Увеличение производительности: Благодаря использованию ИИ компании могут производить больше продукции за меньшее время.
Новые возможности: ИИ создает новые возможности в различных областях, например, в создании новых продуктов, оптимизации бизнес-процессов и развитии науки.
Улучшение жизни: ИИ может помочь в сокращении затрат на здравоохранение, облегчении доступа к образованию и других социальных благах.
Все эти преимущества в совокупности вызывают у людей бешеный восторг от современного ИИ. Более того, ИИ представляет собой новое направление в развитии технологий, что волнует людей и побуждает их к экспериментам и исследованиям в этой области."
Ответить1 д.
Сергей Сушинский
Alexander Sergeev Я также задал ChatGPT другой вопрос: "Что до сих пор не умеет, не может современный ИИ?". Вот его ответ:
"Несмотря на все достижения современного искусственного интеллекта, существуют некоторые задачи, которые он пока не может выполнить полностью или эффективно. Некоторые из таких задач включают в себя:
Общее понимание языка: Современный ИИ может распознавать и анализировать текст, но ему трудно понимать его смысл и контекст.
Творческие задачи: ИИ пока не может полностью заменить человека в творческих задачах, таких как написание музыки, поэзии, литературы и искусства.
Межличностное взаимодействие: Хотя ИИ может имитировать человеческий голос и ответы, он не может взаимодействовать с людьми так же, как другой человек.
Обучение в режиме онлайн: Современные алгоритмы машинного обучения требуют огромного объема данных для обучения, что затрудняет онлайн-обучение на практике.
Широкое применение в неопределенных условиях: Современный ИИ работает лучше всего в определенных и структурированных условиях. Он может столкнуться с трудностями в неопределенных или непредсказуемых ситуациях, где требуется быстрое и гибкое принятие решений.
Эти ограничения являются вызовами для дальнейшего развития искусственного интеллекта, и ученые работают над их преодолением."
Ответить1 д.
Роман Поразительный
Не стоит забывать, что ИИ основан как раз на человеческой культуре, языке, образе мышления, вычислений, в общем на всем, что создано человеком. Поэтому никакой это не "инопланетный разум" и никакую нашу культуру он не съест, скорее дополнит, а дополнит ли он ее приемлемо или нет, решать будет человек, опираясь на чувства.
Ответить1 д.
Denis Bogdanov
На заре автомобилестроения всерьез обсуждалось ограничение скорости движения автомобиля скоростью, которую может развить пешеход. Не думаю, что авторы статьи пренебрегают автомобильным транспортом.
И потом, притормозить процесс развития — желание, как минимум, утопическое, если вы объект этого процесса
Комментариев нет:
Отправить комментарий