Нельзя мысль породить из мысли: нужна личная работа

Нельзя мысль породить из мысли: нужна личная работа

https://ontocritic.org/blog/archives/6403

Нельзя мысль породить из мысли: нужна личная работа

• Онтокритика: начальная страница — https://evolkov.net/guide.html.
• Онтокритика одним файлом: сборка книги (pdf) (https://evolkov.net/ontocritic/ontocritic_book.pdf).
• Контакты, ресурсы и соцмедиа — Евгений Волков / Contacts — Evgeny (Evgeniy) (Evgenii) Volkov. Там же инструкция по регистрации в этом блоге для комментирования и подписки.

   Даю большую цитату из «Бесед о мышлении» Мераба Мамардашвили (С. 279-281., издание Фонда Мераба Мамардашвили, 2015). У меня комментарий один: согласно «Беседам...», я мыслю, т.е. личной работой порождаю мысли о реальности, сознание реальности, а не «несуществования». Для меня такая поддержка, особенно сейчас, бесконечно бесценна. Цитаты я публикую, как всегда, как рабочие заметки для себя, поскольку они имеют смысл только в том случае, если читатель делает свою работу мысли — и читает Мераба Мамардашвили. Ещё один комментарий — после цитаты.

   «...жизнь нашего сознания представляет собой целое, связанное изнутри некими соответствиями, или корреспонденциями, как выражались французы, и все наши мысли, если они у нас есть, существуют в (280:) некотором поле. Мы в него можем включаться или не включаться. Это означает, что любой достаточно серьёзно и на достаточную глубину проделанный опыт сознания порождает в том человеке, который его проделал, мысли, которые мыслились другими раньше, или мыслятся другими рядом, или будут мыслиться потом. Если мысль идёт по руслу жизненного смысла и значения мыслительных конструкций, она устроена таким образом.

   Ты не можешь в принципе подумать ничего того (если подумал глубоко), что уже не думалось кем-то другим. И это не значит, что ты кого-то повторяешь, это не означает, что на тебя кто-то влияет, не означает заимствований по одной простой причине: мысли вообще не рождаются из мыслей, идеи не рождаются из идей, и не существует никакой филиации идей, — нельзя мысль породить из мысли. Мысли, рождаясь, корреспондируют, перекликаются. Есть простой психологический опыт: можно заставить вас говорить не то, что вы думаете, можно заставить вас поступать не так, как вы хотите. Но нельзя изменить вашу мысль: вы её можете скрыть, вы её можете исказить, вы её можете забыть — всё что угодно, но не изменить. Нельзя изменить и волю. Это происходит даже в обучении знаниям, и в религиозном опыте это происходит. Никакой заповедью нельзя создать убеждения — убеждения не внушаются заповедями, хотя заповеди существуют; убеждения возникают другим путём — из собственного опыта мысли и сознания человека, и, возникнув, они могут совпасть с заповедью, и человек понимает заповедь. Фактически существует обратный закон: повлиять мысленно ни на кого невозможно, потому что всё растёт только из самих людей, из некоторого внутреннего источника, растёт путём труда и борьбы. Поэтому, собственно говоря, и существуют смыслы: идеи для нас имеют смысл, ценности имеют смысл и так далее.

  На одной из бесед я говорил: представьте себе, например, что кто-то изобрёл бы такое благое для человечества лекарство, что оно, будучи введено в человека, позволяло бы своим собственным (лекарства) действием человеку всё время склоняться к добру и отклоняться от зла. Но тогда для человека это не имело бы никакого смысла, хотя вы сами знаете, что литература с такими фантазиями очень обильна и очень много людей всю жизнь посвятили себя изобретению такого рода механизмов. Но люди ведь природные существа, это значит, что они с очень большим трудом приподнимают себя за волосы над своим собственным болотом, (281:) и когда этого приподнимания нет, то они тогда à la naturelle (природные), они (как я приводил слова Канта) — такое кривое дерево, что ничего по-настоящему прямого из него сделать нельзя.

   Мы живём и дышим в среде, где существует представление о том, что возможно создание механизмов, которые собственным действием создавали бы всеобщее счастье. Мол, достаточно только понять и узнать законы истории, и возможно построить такой объективный исторический механизм, который сам производил бы счастье, равенство и так далее. Но эти вещи исключены, а философ скажет: эти вещи исключены онтологически, то есть, переводя на простой язык, это исключено тем, как устроено человеческое существо. Это возможно для «духовных автоматов», а для людей это невозможно, — ведь человек, как существо, стремящееся к счастью, устроен так, что счастье для него может быть даром, наградой, случаем, но нет механизма счастья. Этого не может быть, точно так же, как, скажем, нет механизма красоты. Достоевский в своё время сказал дурацкую фразу: «Красота спасёт мир». Я бы без оглядки, со всех ног бежал от такого мира, который создавался бы по законам красоты, от мира, в котором был бы механизм красоты. Для меня красота как средство построения мира не имела бы никакого смысла, а вот красота, которой ты достоин, если она случится, — это имеет смысл. И все высшие человеческие состояния — равенство, достоинство и другие — нельзя превратить в орудия и механизмы, поскольку то самое главное, что есть в человеке, существует только на вершине волны усилия (то есть в каком-то смысле не существует, а если существует, то только в момент и на пике деяния, усилия, деятельности). Разве можно это поделить поровну? Разве можно делить то, чего нет? Следовательно, люди не равны — по затраченному ими усилию. Они могут быть равны только по уравниванию условий, шансов, а блага культуры, красоты, мысли невозможно поделить поровну. Кто-то будет говорить: какие нехорошие и злые те люди, которые отрицают в этой сфере равное деление и равенство как таковое... — но нельзя делить то, чего нет».

   Все фантазии о «сотрудничестве» с ИИчницей и тем более о том, что она будет «мыслить» — это всё те же мечты о всеобщем «автоматическом» счастье, фактически о вечном внечеловеческом автоматическом двигателе социальности. Не хотят люди брать на себя ответственность за себя и за всю свою мозговую затараканенность.

ЕИ (естественно-единственный интеллект) в эпоху всемирного затопления ИИчницей (имитацией интеллекта)

 ЕИ (естественно-единственный интеллект) в эпоху всемирного затопления ИИчницей (имитацией интеллекта)

Заметки от 01.06.2026 г.

https://youtu.be/pd1Km6bT104?si=QGy1BeUllmNjaAYf

Гарвардский университет только что уличил ИИчницу во лжи каждому руководителю в Америке.

https://youtu.be/xBHuEbp0hrE?si=QBtVS7Cm2bRGh-MM

Гарвардский университет обнаружил, что ИИчница высасывает все интеллектуальные ресурсы из Америки.

Внимательно послушал, точнее, прочитал по оригинальным субтитрам оба вышеуказанных спича. В них всё корректно и очень полезно, кроме заголовков: ИИчница сама не делает НИЧЕГО. Нож не делает харакири, людей перевозят не самолёты и поезда — а сложные системы с людьми-профессионалами на ключевых позициях. ИИчница — сильно ограниченный инструмент, не имеющий никакого отношения к интеллекту, но требующий очень хорошо обученного и профессионального интеллекта для эффективного и полезного использования. Благодаря этому инструменту оба спича можно как читать по русским субтитрам, так и слушать в русской озвучке (можно одновременно).

Между этими спичами читаю https://deadsimpletech.com/blog/attack-on-competence (Атака на компетентность) от очередного умного трансгендера:

«В этом контексте LLM — это всего лишь последняя в серии технологий, которые обещали инвесторам, что на этот раз, наконец, они смогут избавиться от необходимости в компетентности и не будут учитывать или уважать какую-либо систему ценностей, кроме своей собственной. В этом и заключается фундаментальный конфликт, порождаемый компетентностью: вместо того, чтобы быть вопросом экономической зависти, простым конфликтом за статус (он может включать в себя и конфликты за статус, но они, как правило, сложнее обычных, к которым мы привыкли) или вопросом исправления фактов (неприятно, но у каждого есть реальность, с которой он в конечном итоге сталкивается и с которой ему приходится мириться), неприязнь к компетентности или желание наказывать за неё проистекает из дискомфорта, возникающего из-за необходимости регулярно вступать в серьёзный конфликт с людьми, чья система ценностей кардинально отличается от вашей, и которую вы на каком-то уровне должны признать превосходящей вашу, потому что она делает то, чего ваша не может».

А Google Alerts подкидывает следующее:

«Только 8% российских компаний системно измеряют критическое мышление своих руководителей и сотрудников»

 и

«Ontology can be summed up as explicitly expressing, in writing, something that machines can understand in the way humans think.»

Поцелуй робота, или Вкус ИИчницы

Поцелуй робота, или Вкус ИИчницы

Поцелуй робота, или Вкус ИИчницы

• Онтокритика: начальная страница — https://evolkov.net/guide.html.
• Онтокритика одним файлом: сборка книги (pdf) (https://evolkov.net/ontocritic/ontocritic_book.pdf).
• Контакты, ресурсы и соцмедиа — Евгений Волков / Contacts — Evgeny (Evgeniy) (Evgenii) Volkov. Там же инструкция по регистрации в этом блоге для комментирования и подписки.

   Спасибо Михаилу Аркадьеву с его блогом в Снобе (https://snob.ru/profile/23839/blog/) за предоставление моему ЕИ (естественному интеллекту) обширных образцов для сравнения человеческих авторских текстов с продукцией ИИчницы (имитации интеллекта). М.Аркадьев с помощью ИИчницы сделал недавно пять рецензий на свой труд «Лингвистическая катастрофа: философия антропологического разрыва» с позиций разных критиков, что само по себе заслуживает и интереса, и уважения — далеко не каждый автор способен добровольно инициировать столько разнообразной и, в специфическом ИИшном смысле, непредвзятой и честной критики. Если имеет смысл, могу эти ссылки добавить. Не помню уже, как на прошлой неделе наткнулся в сети на одну из этих рецензий и узнал про само рецензируемое творение.

   В этом же блоге автор разместил ещё и два больших человеко-авторских текстов:

• Г.Гутнер. «Лингвистическая катастрофа» Михаила Аркадьева или опасная погоня за ясностью — https://snob.ru/profile/23839/blog/1007231/
• Эпиграфы «Лингвистической катастрофы» (подборка цитат многих великих мыслителей) — https://snob.ru/profile/23839/blog/1006085/

   Первый — большущая рецензия инженера-математика-философа (уже покойного) на труд М.Аркадьева (на первое издание, видимо). Жду на днях второе издание, но не на предмет обретения истин, а для наслаждения интересным образцом языковой социоинженерии, построенном на жёстко инженерных реперных постулатах именно про язык — на которых далее строятся музыкально-артистические и философско-психологические фантазии. Оригинально, красиво, широко — но, как всегда, без выхода на актуальную социоинженерию нужного направления и качества. С музыканта, само собой, никакого спроса не может быть в этом отношении. Как хорошее музыкальное творение, предчувствую, должно быть прекрасно.

   Какие цели преследовал М.Аркадьев, генерируя ИИчницей пять псевдоавторских псевдорецензий, узнать было бы любопытно, но их постановка встык (в оглавлении блога) с настоящими авторскими текстами и настоящей авторской рецензией лично мне предоставила отличную возможность отчётливо сравнить органолептические ощущения от текстов человеческого и машинного производства.

   От последних — отчётливое послевкусие и послеощущения как от поцелуя робота или с роботом, пусть и с имитацией свойств человеческого тела. Очень трудно отказаться от ассоциации с продукцией интим-магазинов для сексуального удовлетворения, а в последней антропоморфно персонализированными можно с некоторой натяжкой считать надувные куклы. А теперь представьте их с вмонтированной ИИчницей.

   Какое удовлетворение ищут люди, антропоморфизируя ИИчницу и воскрешая ею покойников? Делаю паузу на конструирование ответа. Подкидывайте свои варианты.

   ИИчница инструментально — производство наилучших ответов на вопросы по наилучшим правилам на базе ранее произведённых человеческих ответов. Получается  наилучшая яичница по наилучшим правилам кухни на базе рецептов ранее приготовленных яичниц. Будет ли она съедобная? Скорее всего. А вот будет ли она вкусная конкретно для вас или даже вообще для любого человека? Я в больших сомнениях. Недавно ели жареную икру язя с добавлением яичницы. Съедобно, про вкус жена сказала: «Белок — он и есть белок».

   Ответ на вопрос есть ответ на вопрос — если вы хотите чистого ответа на вопрос. Всё остальное — продукция интим-магазина и лавки со специями. Начните задавать себе вопросы, зачем вам такие форматы и приправы, но попробуйте искать чистые и честные ответы. ИИчница повысила эксплуатацию (использование, задействование) написанных мною текстов в блоге на Blogger в 10 раз (график могу приложить, картинка однозначная и несомненная), т.е. мои идеи и мои ответы на порядок чаще стали достигать сознаний других людей (в неконтролируемой мной переработке). Мне вроде  бы радоваться надо. Я же, как занудный онтокритик, вижу двойной, тройной или даже четверной разрыв человеческих связей: меня читает, переваривает и сервирует для других ИИчница, а люди персонализируют ИИчницу, аннигилируя меня. Время и поводы для человеческого общения сворачиваются в чёрную дыру ИИчницы.

   Один ответ про антропоморфизацию был в группе моего Telegram-канала, и ответ предсказуемый — про неудовлетворённость потребности общения. Как я только что выше отметил, движение в указанном направлении ведёт прямо к противоположному — увеличение времени на секс с резиновой куклой уменьшает шансы и время на натуральный секс. Мой ответ: фундаментальный супернарциссизм человека как способ совладания с молчанием и безразличием физического мира. Нарциссизм не личностный (это патологическая деформация), а родовой (видовой), т.е. склонность (потребность) человека видеть (слышать, осязать, обонять и т.д.) человеческое во всём, с чем он сталкивается в физической реальности. На уровне индивида включается онтологическая я-зависимость («люди, полагая, что они существуют имманентно и независимо, убедили своё самосознание до такой степени, что считают себя центральным элементом в мире, в котором все другие формы жизни, объекты и концепции считаются периферийными» — https://evolkov.net/ontology/addict_ontol/addiction_ontol_2018.html и https://ontocritic.org/blog/archives/3886). Добавляем к этому диалоговую интериоризацию речи и мышления, т.е. формирования сознания как речевого общения человека с человеком в процессе стартовой социализации, — и вуаля, ИИчница обречена восприниматься человеком как человек. Если резиновая кукла говорит (пишет) как человек, да ещё вежливо, комплиментарно, гладко и вроде бы умно — как не видеть в ней человека?

   Когда же резиновая кукла / механическое пианино (прошу прощения за ассоциацию с фильмом, молодость вспомнилась) назначены на роль наивысшего человеческого достижения в воспроизведении наилучших и уникальных человеческих способностей с перспективой превосходства над человеком — тут родовой нарциссизм в соединении с мазохизмом буквально сжигает всем мозги («Мы сделаем  себе супергосподина, который нас поработит или уничтожит. Какие же мы крутые!»). Что и наблюдаем. И почти никто отрезвляюще не напоминает, что фактически создана всего лишь система мгновенного автоматизированного плагиата на базе многовековой работы ничтожнейшего меньшинства, не насчитывающего и сегодня более нескольких процентов от этого человеческого рода. А чем отличились и что произвели остальные 90 с лишним процентов?

   Воскрешение знаменитых покойников — это уже удовлетворение личного нарциссизма заказчика, извинительная человеческая слабость при доступе к таким техническим возможностям. Для целей получения критики с разных позиций вполне достаточно запросить отзывы от определённых философских и научных направлений без персонификации. Читаться такие тексты будут скучнее, но могут оказаться содержательнее и полезнее по делу, а стилистически точно будут ощущаться как научная честность заказчика.

   Самый забавный слой картины маслом «Человек с ИИчницей»: ни создатели ИИчницы, ни её промоутеры, ни анти-ИИчные алармисты, ни пользователи-любители понятия не имеют (не имеют ясной и надёжной прагматической онтологии) о явлениях «человек», «социум», «сознание», «разум», «интеллект» и «мышление», т.е. о самих себе и своих важнейших свойствах. Именно эти свойства и позволяют людям бесконечно обманываться и про ИИчницу, и про самих самих себя, производя себе же бесконечное количество бессмысленных и беспощадных проблем.

   Вчера прослушал беседу «Искусственный интеллект: очень страшные дела. Апокалиптический эпизод. Параклет» (/watch?v=KuMUuFbMrww + впереди https://www.youtube.com/). Полезная беседа, под многими формулировками СБ я уверенно подпишусь, но про трансцендентность, естественно, у меня существенно другая позиция — человек просто должен, в конце концов, признать себя таким, каков он есть, чтобы с этим спокойно и методично инженерно работать. Эксперт (не в области ИИчницы, что примечательно) там во многом подменяет одни мифы другими, а кессонная метафора неудачная, по моему представлению. Релевантные эксперты в огромных количествах видео устало объясняют ограничения и тупики ИИчницы (только что посмотрел очередное такое видео: Reality Check: AI Can’t Do What You Think It Can — Проверка реальности: ИИ не может делать то, что вы думаете — https://www.youtube.com/watch?v=Q1g94US5...)

   «Лингвистическую катастрофу» читать начал, книжка пришла, предчувствия пока не обмануты, но мои личные, защищённые авторским правом, критические рефлексии уже зреют. М.Аркадьев как раз категорически сосредоточен на вопросе «что есть человек?» и предлагает оригинальную и полезную точку зрения, которая во многом резонирует с моей онтокритикой — онтокритика отзывается и поддержкой, и критикой.

   Для финала ещё более устало и занудно повторю вслед за очень древними греками: Γνῶθι σεαυτόν (Gnóthi seaftón) — Познай себя (https://ru.wikipedia.org/wiki/Познай_самого_себя). Аутонеграмотность (самонеграмотность как аспект соционеграмотности) — вот первейшая и зловреднейшая проблема человеческая. Начните ликбез, онтокритика вам в помощь.

Прагматическое дополнение-предложение

   Готов бесплатно или за чисто символическую благодарность проводить индивидуальный, точнее, для одного-единственного участника, онтокритический тренинг-ликбез. Условия — запись занятий для YouTube (можно как аудиоподкаст) и длительная регулярность (хотя бы раз в неделю в течение нескольких месяцев). Делал такие предложения неоднократно и безрезультатно — но я-то делал.

Think outside the bots: How to stop AI from turning your brain to mush

'Think outside the bots': How to stop AI from turning your brain to mush

https://www.bbc.com/future/article/20260505-how-to-use-ai-without-turning-your-brain-to-mush

«Мыслите за пределами ботов»: как помешать ИИ превратить ваш мозг в кашу.

ИИ забрал мою работу (и дал взамен в два раза больше новой)

ИИ забрал мою работу (и дал взамен в два раза больше новой)

https://vc.ru/ai/2863529-kak-ii-menyaet-rabotnye-protsessy-i-navyki-spetsialistov

Конкретика реальных ситуаций и рабочих процессов.

Так ИИ тайно манипулирует тобой / This is How AI Secretly Manipulates You

This is How AI Secretly Manipulates You - YouTube

Так ИИ тайно манипулирует тобой. Эпичная непрозначность делается прозрачной, но кто захочет принять открывшуюся истину?

Есть русская аудиодорожка.

ИИ (имитация интеллекта) — это газировка и фастфуд для большинства мозгов

   ИИ (имитация интеллекта) — это газировка и фастфуд для большинства мозгов. Объяснять широким массам, что ИИ — это сложный рабочий инструмент, для полезного использования которого надо очень много знать и ещё больше уметь делать самостоятельно, почти также бестолково, как объяснять детям и многим взрослым, что еда — это сложный продукт для умелого поддержания здоровья, а не предмет наркотического потребления сладенького и вкусненького в любых количествах.

   AI (simulated intelligence) is like soda and fast food for most people's brains. Explaining to the general public that AI is a complex tool whose useful use requires a great deal of knowledge and even more skill to perform independently is almost as pointless as explaining to children and many adults that food is a complex product for skillful health maintenance, not an object for addictive consumption of sweets and tasty treats in any quantity.

Люди путают ИИ с интеллектом – и проблема выходит из-под контроля / People Are Confusing AI With Intelligence

People Are Confusing AI With Intelligence - And the Problem is Getting out of Hand — YouTube

https://www.youtube.com/watch?v=iSXlsckGKmw

Люди путают ИИ с интеллектом — и проблема выходит из-под контроля

Подпишитесь на канал Epic Opaque, поддержите голос разума.

В комментариях есть цитата:

“AI is the asbestos we are shoveling into the walls of our society and our descendants will be digging it out for generations" — Cory Doctorow.

«ИИ — это асбест, который мы засыпаем в стены нашего общества, и наши потомки будут его выкапывать в течение нескольких поколений», — Кори Доктороу.

Реальная опасность ИИ — это автоматизированная глупость

 «Реальная опасность ИИ — это автоматизированная глупость». Реальная опасность людей уже тысячи лет в этой самой автоматизированной глупости. Вот и чиповый интеллект по своему подобию сделали.

Real danger of AI is automated stupidity

https://social.vivaldi.net/@JoeBecomeTheSun/112548737467216856

@JoeBecomeTheSun

Хорошее объяснение разницы между машинным «искусством» и искусством человеческим

OK, You Made an AI Image. What the Hell Am I Supposed to Be Looking At? | by Don Giannatti | Full Frame | Mar, 2024 | Medium

https://medium.com/full-frame/ok-you-made-an-ai-image-what-the-hell-am-i-supposed-to-be-looking-at-4252c1249414

OK, You Made an AI Image. What the Hell Am I Supposed to Be Looking At? | by Don Giannatti

Хорошее объяснение разницы между машинным «искусством» и искусством человеческим.

https://dongiannatti.substack.com/p/an-old-edsel-entropy-and-a-question

An Old Edsel, Entropy, and a Question About AI; What Am I Supposed to See?

Продолжение обозначенной выше темы с очень выразительным подзаголовком: «Даже задавание вопросов в наши дни вызывает язвительность и ненависть... почему?»

Страшный-престрашный ИИ

Страшный-престрашный ИИ

Несколько позже я добавлю сюда свои комментарии и процитирую комментарии к посту А.Константинова, точнее, к его переводу текста Ю.Харари.

Вот моя позиция коротко: люди как люди изначально жили и живут много тысяч лет в мире, создаваемом ИИ, поскольку и  сам человек есть первая модель ИИ, и производство текста и жизнь в тексте и текстом — это  и есть человеческая жизнь. Ну, создали небиологический автомат для производства тех же человеческих текстов. Проблемы соотнесения текстов с реальностью остались теми же. Онтокритик просто ржёт во весь голос.

Андрей Константинов

2 д. ·

В New York Times вчера опубликовали несколько паническое «обращение ко всем людям доброй воли» Юваля Харари с коллегами, под слоганом «Если мы не контролируем ИИ, он будет контролировать нас». Не то, чтоб я был во всем согласен, но ознакомиться точно стоит, много хороших формулировок. Привожу с небольшими сокращениями.

«Фармкомпании не продают новые лекарства без тщательной проверки на безопасность. Биотех-лабораториям нельзя выпускать в мир новые вирусы, чтобы впечатлить акционеров. Точно так же системы искусственного интеллекта с мощностью GPT-4 и выше не должны вмешиваться в жизнь миллиардов людей до тех пор, пока культуры не смогут их безопасно поглотить. Гонка за прибылью не должна определять скорость развертывания важнейших технологий в истории. Мы должны двигаться с той скоростью, которая позволяет нам сделать это правильно.

Призрак искусственного интеллекта преследует человечество с середины ХХ века, но до недавнего времени он оставался отдаленной фантастической перспективой. Нашему человеческому уму трудно понять новые возможности GPT-4 и подобных инструментов, и еще труднее понять экспоненциальную скорость, с которой эти инструменты развивают всё более продвинутые и мощные возможности. Но большинство ключевых навыков сводится к одному: способности говорить.

В начале было слово. Язык — это операционная система человеческой культуры. Из языка возникают миф и закон, боги и деньги, искусство и наука, дружба и нации — даже компьютерный код. Владение языком ИИ означает, что теперь он может взламывать и манипулировать операционной системой цивилизации. Овладев языком, ИИ захватывает главный ключ к управлению нашей цивилизацией.

Что значит для людей жить в мире, где большой процент историй, мелодий, образов, законов, политики и инструментов формируется нечеловеческим разумом, который знает, как со сверхчеловеческой эффективностью использовать слабости, предубеждения и пристрастия людей? Знает, как устанавливать с людьми близкие отношения? В таких играх, как шахматы, ни один человек не может надеяться победить компьютер. Что будет, когда то же самое произойдет в искусстве, политике и религии?

ИИ может быстро съесть всю человеческую культуру — все, что мы создали за тысячи лет, — переварить ее и начать извергать поток новых культурных артефактов. Не только школьные сочинения, но и политические речи, идеологические манифесты и даже священные книги для новых культов. К 2028 году в президентской гонке в США могут больше не участвовать люди.

Люди не имеют прямого доступа к реальности. Мы окружены культурой, переживаем реальность через культурную призму. Наши политические взгляды формируются репортажами журналистов и анекдотами друзей. Искусство и религия влияют на наши сексуальные предпочтения. Этот культурный кокон до сих пор был соткан другими людьми. Каково будет познавать реальность через призму нечеловеческого разума?

Тысячелетиями мы, люди, жили в мечтах других людей. Мы поклонялись богам, преследовали идеалы красоты и посвящали свою жизнь делу, зародившемуся в воображении какого-нибудь пророка, поэта или политика. Вскоре мы обнаружим, что живем внутри галлюцинаций нечеловеческого разума.

В «Терминаторе» роботы бегают по улицам и стреляют в людей. «Матрица» предполагала, что для получения полного контроля над человеческим обществом ИИ должен напрямую подключить наш мозг к компьютерной сети. Но, на самом деле, просто овладев языком, ИИ будет иметь все, что ему нужно, чтобы содержать нас в мире иллюзий, подобном матрице. Ни в кого не стреляя, и не имплантируя чипы в наш мозг. А если потребуется стрельба, ИИ может заставить людей нажать на курок, просто рассказав нам правильную историю.

Призрак застрявшего в мире иллюзий преследует человечество гораздо дольше, чем призрак ИИ. Вскоре мы, наконец, столкнемся лицом к лицу с демоном Декарта, с платоновской пещерой, с буддийской Майей. Завеса иллюзий может опуститься на все человечество, и мы никогда больше не сможем оторвать эту завесу — или даже осознать, что она здесь.

Социальные сети были «первым контактом» между ИИ и человечеством, и человечество проиграло. «Первый контакт» дал нам горький вкус будущего. В социальных сетях примитивный ИИ использовался не для создания контента, а для курирования пользовательского контента. ИИ, стоящий за нашими новостными лентами, по-прежнему выбирает, какие слова, звуки и изображения достигают нашей сетчатки и барабанных перепонок, основываясь на выборе тех, которые получат наибольшую виральность, наибольшую реакцию и наибольшую вовлеченность.

Несмотря на то, что он был очень примитивным, ИИ, стоящий за социальными сетями, был достаточным, чтобы создать завесу иллюзий, которая усилила поляризацию общества, подорвала наше психическое здоровье и разрушила демократию. Миллионы людей спутали эти иллюзии с реальностью. В США лучшие информационные технологии в истории, но граждане США больше не могут договориться о том, кто победил на выборах.

Большие языковые модели — это наш «второй контакт» с ИИ. Мы не можем позволить себе снова проиграть. Но на каком основании мы должны полагать, что человечество способно использовать эти новые формы ИИ в наших интересах? Если мы продолжим вести дела как обычно, новые возможности ИИ снова будут использоваться для получения прибыли и власти, даже если это непреднамеренно разрушит основы нашего общества.

У ИИ действительно есть потенциал, чтобы помочь нам победить рак, открыть жизненно важные лекарства и изобрести решения для наших климатических и энергетических кризисов. Есть бесчисленное множество других преимуществ, которые мы даже не можем себе представить. Но не важно, какой высоты воздвигнет ИИ небоскреб благ, если фундамент рухнет.

Пришло время учиться жить с ИИ, — до того, как наша политика, экономика и повседневная жизнь станут от него целиком зависеть. Демократия — это разговор, разговор опирается на язык, а когда сам язык взломан, разговор ломается, и демократия становится несостоятельной. Когда начнется хаос, будет слишком поздно исправлять ситуацию.

Пока мы по-прежнему можем выбирать, какое будущее мы хотим с ИИ. Если его божественная мощь будет сочетаться с соизмеримой ответственностью, и под нашим контролем, мы сможем реализовать преимущества, которые обещает ИИ.

Мы вызвали инопланетный разум. Мы мало что знаем о нем, за исключением того, что он чрезвычайно силен, предлагает нам ослепительные дары, но также может взломать основы нашей цивилизации. Мы призываем мировых лидеров отреагировать на этот вызов. Первый шаг — выиграть время, чтобы модернизировать наши институты 19-го века для мира с искусственным интеллектом и научиться управлять ИИ до того, как он завладеет нами».

______________________

Как и обещал, добавляю комментарии других читателей, среди которых, кстати, Ирина Якутенко:

Irina Yakutenko

Есть ли технологии, про которые бы не писали подобных манифестов?

Ответить2 д.

Анна Мурадова

Irina Yakutenko уверена, что примерно то же самое говорили древние, когда была изобретена письменность и информация стала распространяться с невиданной быстротой.

Ответить1 д.

Irina Yakutenko

Hanna Bit Murad даже не сомневаюсь

Ответить1 д.

Пётр Волков

Да что там, стиральные машины, кто помнит, многие так же встречали: вещи портят, руками лучше...

Jury Novikov

я чуть-чуть поболтал с джи пи ти. Замечательный урок. Врёт она — "просто как очевидец". Сильно отрезвляющая штука. Отличная игрушка. Ура конечно дальнейшему развитию ИИ. Ну а дальше — конечно, как топор и порох. Можно скалы взрывать что бы строить гидро электро станции, а можно, ну сами знаете. Разумеется эта штука может наговорить глупостей, но по ощущению не больше чем церковный проповедник, школьный учитель, или выживший из ума старик профессор и добродетельная женщина.

Ответить1 д.

Jury Novikov

а так — аргументы те же, что и против книгопечатания, грамотности, электричества и паровоза.

Anton Žebrauskas

Харрари справляется с манипулятивными текстами сам. Народ ведётся. Мне кажется, злобный ИИ сломает себе свои искусственные зубы об человеческую глупость, подобно тому, как уэллсовы марсиане вымерли из-за бактерий)

Ответить1 д.

Андрей Афанасьев

Anton Žebrauskas вот про Харари - в точку, ровно те же мысли

Ответить1 д.

Владимир Маматов

Anton Žebrauskas Харари — попсовик. У него, как и у Талеба, for example, есть пара точных наблюдений — но это ни в коем случае не серьёзно.

Так, интеллектуал, и Маркса не читал, про классовую ангажированность публичных деятелей.

Ответить1 д.

Oleg Levashov

Владимир Маматов Вот соглашусь про Харари! Ловкий литературный шулер, хорошо использующий ассоциации. Историк, что вы хотите? Нет конструктивного образного мышления, к-рым владеют физики, инженеры и многие другие. Балабол.

Аня Старобинец

Тысячелетиями мы ездили на лошадях. Как можно доверить себя неживым железным роботизированным птицам? Тысячелетиями мы смотрели на игру живых актеров на сцене. Как можно довериться трансляции сотворенных из пикселей искусственных существ из черного плазменного квадрата? Ведь очевидно, что живой человек не помещается в телевизоре!

Jury Novikov

Artyom Kosmarski воздействие этих ИИ машин, не больше чем появление дешевой печатной продукции, Ну наверно сопоставимо с появлением письменности. Ведь глупость в книгах тиражируется едва ли не легче чем ум. Но еще раз.. Пока это речевые генеративные (хочется сказать дегенеративные ) модели. Она плодит мутные образы на уровне галлюцинаций человека в психозе, или сна верблюда. Станет ли она разумной? Может да, а может нас ждет очередная зима искусственного интеллекта, которая может сковать реку прогресса в этой области в любой момент.

Сергей Сушинский

Alexander Sergeev Я спросил у ChatGPT: "Почему люди в таком бешеном восторге от современного ИИ?". Вот его ответ: "Современный искусственный интеллект (ИИ) имеет множество преимуществ, которые вызывают интерес и восторг у людей. Некоторые из этих преимуществ включают в себя:

Высокая эффективность: ИИ может выполнять задачи быстрее и точнее, чем человек, что делает его весьма полезным в различных областях, включая бизнес, науку, медицину и т.д.

Автоматизация: ИИ может автоматизировать множество повседневных задач, что экономит время и улучшает эффективность работы.

Увеличение производительности: Благодаря использованию ИИ компании могут производить больше продукции за меньшее время.

Новые возможности: ИИ создает новые возможности в различных областях, например, в создании новых продуктов, оптимизации бизнес-процессов и развитии науки.

Улучшение жизни: ИИ может помочь в сокращении затрат на здравоохранение, облегчении доступа к образованию и других социальных благах.

Все эти преимущества в совокупности вызывают у людей бешеный восторг от современного ИИ. Более того, ИИ представляет собой новое направление в развитии технологий, что волнует людей и побуждает их к экспериментам и исследованиям в этой области."

Ответить1 д.

Сергей Сушинский

Alexander Sergeev Я также задал ChatGPT другой вопрос: "Что до сих пор не умеет, не может современный ИИ?". Вот его ответ:

"Несмотря на все достижения современного искусственного интеллекта, существуют некоторые задачи, которые он пока не может выполнить полностью или эффективно. Некоторые из таких задач включают в себя:

Общее понимание языка: Современный ИИ может распознавать и анализировать текст, но ему трудно понимать его смысл и контекст.

Творческие задачи: ИИ пока не может полностью заменить человека в творческих задачах, таких как написание музыки, поэзии, литературы и искусства.

Межличностное взаимодействие: Хотя ИИ может имитировать человеческий голос и ответы, он не может взаимодействовать с людьми так же, как другой человек.

Обучение в режиме онлайн: Современные алгоритмы машинного обучения требуют огромного объема данных для обучения, что затрудняет онлайн-обучение на практике.

Широкое применение в неопределенных условиях: Современный ИИ работает лучше всего в определенных и структурированных условиях. Он может столкнуться с трудностями в неопределенных или непредсказуемых ситуациях, где требуется быстрое и гибкое принятие решений.

Эти ограничения являются вызовами для дальнейшего развития искусственного интеллекта, и ученые работают над их преодолением."

Ответить1 д.

Роман Поразительный

Не стоит забывать, что ИИ основан как раз на человеческой культуре, языке, образе мышления, вычислений, в общем на всем, что создано человеком. Поэтому никакой это не "инопланетный разум" и никакую нашу культуру он не съест, скорее дополнит, а дополнит ли он ее приемлемо или нет, решать будет человек, опираясь на чувства.

Ответить1 д.

Denis Bogdanov

На заре автомобилестроения всерьез обсуждалось ограничение скорости движения автомобиля скоростью, которую может развить пешеход. Не думаю, что авторы статьи пренебрегают автомобильным транспортом.

И потом, притормозить процесс развития — желание, как минимум, утопическое, если вы объект этого процесса