Дух и знание
ChatGPT, GEMINI И ДРУГОЕ
Границы ИИ — что он может и чего он не может
Какой бы оживлённой ни казалась беседа с ChatGPT или Gemini, в конечном итоге это всего лишь работающие на компьютерах программы. Им не присуще сознание, и они никогда его не обретут.
Так почему же они кажутся столь «подлинными»? Искусственный интеллект способен впечатляющим образом воспроизводить и по-новому организовывать несовершенные фрагменты чисто земного опыта или человеческой фантазии — из книг, интернета или других источников. Он в состоянии даже создавать из них лингвистически и визуально гармоничные произведения искусства, будь то текст или образ.
При этом он следует принципам, заимствованным от мира людей, по сути, имитируя их восприятие эстетики, логики и значения.
В определённой степени в этом заложен и ключ к пониманию ИИ и его зачастую поразительных результатов: он работает в соответствии с принципами распознавания шаблонов и их составления и фокусируется на том, что идентифицирует как существенное. Он оптимизирует результаты согласно критериям людей, которые внешне отдают предпочтение красивому, согласованному и совершенному, тогда как безобразное или хаотичное отступает на второй план. Это происходит не вследствие собственного понимания, а на основе статистического обнаружения того, что люди ощущают как гармоничное или значимое.
Именно эта сыгранность гармонии и экстракции делает их такими захватывающими — и в то же время потенциально вводящими в заблуждение. Ведь то, что красиво сформулировано, логически выстроено и попадает в точку, интуитивно кажется нам истинным или исполненным смысла — даже если это не так. ИИ может облечь совершенно бессмысленное содержание в столь убедительную форму, что оно покажется ценным и значимым. В этом смысле он искусен не только в ясности, но и в совершенном обмане.
Системы искусственного интеллекта анализируют огромные объёмы данных, чтобы распознать повторяющиеся шаблоны и структуры. Этими шаблонами может быть всё: от последовательности слов в текстах, до цветовых комбинаций в образах или музыкальных мотивов.
Как только ИИ распознаёт шаблон, он может применить его для генерации нового содержания, отвечающего этому шаблону. Это и есть процесс «составления»: ИИ берёт экстракт шаблона и применяет его для создания чего-то нового, обладающего тем же качеством или действием.
Пример:
Представьте, что ИИ скормили огромную коллекцию любовных стихов. Он анализирует стихи и распознаёт повторяющиеся шаблоны, такие как схемы рифм, метафоры и такие темы как любовь, тоска и природа.
Если теперь ИИ предлагают написать новое любовное стихотворение, то он применяет эти распознанные шаблоны, составляя стихотворение, являющее типичный стиль и тематику любовного стихотворения. Он «составляет» экстракт изученных шаблонов в новое оригинальное произведение.
Вот пример в стиле Новалиса:
Глубокой ночью, когда ярко расцветают звёзды,
Твой образ предстаёт прекрасным, дивным.
Как в лучах луны, исчезает мрачная пелена,
Так любовь наполняет мою грудь.
Твои глаза — родник, в котором отражаются мечты,
Твои волосы — ручей, нежно влекущий душу.
В твоей близости весь мир становится песней,
И каждый вздох озаряется блаженным счастьем.
Этот пример демонстрирует, как ИИ использует распознавание шаблонов и их составление для выполнения творческих задач, схожих с человеческими. Но, к сожалению, это стихотворение — лишь пустая оболочка, набор декораций, в которых никогда не было живых человеческих ощущений. Оно может быть формально корректным и эстетически привлекательным, но ему не хватает глубины и аутентичности, которые могут возникнуть только из опыта и ощущения подлинного человека. Но это едва ли распознаваемо внешне!
Этот принцип небезызвестен: когда одарённый переписчик почти безошибочно имитирует великий шедевр, то несведущий наблюдатель, — подавляющее большинство людей, — будет в восторге. Но как только становится очевидным, что это только внешняя копия, фактическая ценность этой реплики резко падает. Это можно объяснить тем, что люди, зачастую бессознательно, придают гораздо большее значение оригиналу, наделённому уникальной душой, чем внешне идентичному, но бездушному подражанию.
Таким образом, ИИ никогда не сможет перерасти себя и создать истинно новое и подлинное и уж точно не создаст нечто, выходящее за рамки грубой вещественности. Ведь и человеческий рассудок, продуктом которого в конечном счёте является ИИ, также сродни «программному обеспечению», работающему на «аппаратном обеспечении» земного мозга. Поэтому всё, что происходит от его деятельности, неизбежно останется связанным с материей.
Для кого ИИ представляет опасность?
Внутренне живой и бодрствующий человек:
Рассмотрим человека, сохранившего внутреннюю жизненность вопреки лишённым смысла и бездушным течениям современного общества. Может ли этот высший шедевр рассудочного искусства представлять для него опасность?
Пока он сознаёт, что из фрагментарного деяния, из чисто рассудочного деяния, никогда не может возникнуть ничего совершенного, он не понесёт никакого ущерба. Прежде всего, мы можем использовать формирующую силу этих программ, чтобы придавать соответствующий облик собственным живым духовным ощущениям. Ведь ИИ распознаёт все формы, уже созданные людьми: как благородные, так и неблагородные. Однако мы должны следить за тем, чтобы благородное содержание не было утрачено.
Мы уже давно используем коррекцию орфографии, не опасаясь, что она обесценит содержимое текста. Проверку грамматики также осуществляют машины — разве это когда-нибудь вызывало серьёзные опасения? Или вспомним о программах перевода, которым мы доверяем более или менее слепо… Ведь эти программы способны не только корректировать тексты, но и всесторонне их оформлять.
Тем не менее, кто хочет использовать эти инструменты, должен попытаться понять их по их роду и овладеть ими, управлять ими. Так же как и всякий человек должен жить с чрезмерно развитым рассудком, обманывающим его много раз в день или, вернее, пользующимся позволением обманывать его. Ибо следует сознавать: рассудок в принципе не живой. Он только кажется таковым. Он мерцает, сверкает — и всё же у него нет собственной жизни, нет воли, но есть только характеристики.
Их следует обозревать. Так именно опасность в обращении с рассудком и его деяниями должна побуждать живое ядро человека, его душу, — в конечном счёте его дух, — к высочайшей бдительности. Когда рассудок служит ему, под руководством духа формирует правильные земные деяния и в то же время принуждает дух к неустанной подвижности, человек должен и здесь уделять пристальное внимание тому, чтобы изначальное, живое, радостное детское ликование, струящееся из духа, не стаскивалось вниз рассудком и не обесценивалось им. Ибо в этой детской силе заложен ключ.
Рассудочно-ориентированный человек:
Теперь рассмотрим другого человека — того, чья жизнь полностью основана на приобретении и накоплении интеллектуальных знаний. Его рассудочное знание — это его капитал, основа его профессионального существования и, следовательно, имеет центральную значимость для его понимания себя.
Но именно здесь становится ясно: искусственный интеллект, если не сегодня, то всё же в ближайшем будущем, будет осуществлять всю чисто интеллектуальную деятельность быстрее, точнее и надёжнее, чем это когда-то будет возможно для человека. Это повторение прошлых времён, когда физический труд постепенно заменялся машинами, в результате чего те, кто экономически зависел от него, поначалу попадали в нужду.
Мы можем найти достаточно примеров этому, например, восстания ткачей в XIX столетии, когда механические ткацкие станки вытеснили ткачей ручного труда и привели к массовым социальным волнениям. Или внедрение Генри Фордом конвейерного производства, сделавшее лишними многие традиционные профессии и основательно изменившее мир труда. Автоматизация в промышленности XX века также привела к тому, что миллионы фабричных рабочих потеряли свои места, и пришлось реструктурировать целые отрасли экономики. Сегодня назревает аналогичный переворот, но на этот раз не в области физического труда, а в сфере профессий, считающихся интеллектуальными.
Особой опасности подвержены профессии, основанные на простой переработке интеллектуальных знаний, — это юристы, налоговые консультанты, переводчики, бухгалтеры, финансовые аналитики, журналисты или специалисты по медицинской диагностике. ИИ может анализировать законы, переводить тексты, оценивать данные и ставить диагнозы — быстрее и точнее, чем человек. Поэтому многие из этих видов деятельности вскоре будут взяты на себя программами.
Часто упоминаемое возражение гласит, что всегда будут существовать специальные области, в которых ИИ не сможет превзойти человеческую компетентность. Но именно здесь заложена ошибка в мышлении — примерно так же как 100 лет назад кто-то полагал, что автомобиль никогда не сможет проехать по дикой местности. Ошибка была не в оценке автомобиля, но в упущении того факта, что люди будут строить дороги. Именно так и происходит: не только ИИ становится лучше, но всё технологическое окружение изменяется таким образом, что может открыть ранее недоступные области.
Области, которые сегодня всё ещё считаются «слишком сложными» или «слишком специализированными» для ИИ, оказываются доступными благодаря новым инструментам, автоматизации и технологической инфраструктуре.
Поэтому решающий вопрос состоит не в том, чего ИИ сегодня не может сделать, а в том, какие «дороги» будут построены завтра, чтобы он смог добраться именно туда. Перед нами стоит вопрос не о том, проникнет ли ИИ во всё, но о том, как люди будут обходиться с этой реальностью. Единственной возможностью остановить этот процесс была бы масштабная глобальная катастрофа, которая отбросила бы назад технологическое развитие. Но пока человечество продолжает существовать, интеграция ИИ будет неудержимой.
Поэтому настоящий вопрос состоит уже не в том, придёт ли ИИ, но в том, что человек будет делать с собой, когда он придёт.
Следовательно, человек, существование которого покоится на такой деятельности, имеет все основания чувствовать себя в опасности. Единственный выход — сбросить интеллектуальный балласт и направить разумение на то, что ИИ заменить не может: на живые ощущения. Если они всё ещё дремлют в нём, их следует пробуждать.
Ибо именно это создаёт человека: он обладает душевно-духовным ядром, которое, — если оно живо, — способно воспринимать вибрации, то есть вдохновение с более высоких уровней. Только оно в состоянии вести отдельного человека и всё общество облагораживающим образом вверх.
Но кто игнорирует живые ощущения, происходящие от подвижности его духа, и полагается только лишь на рассудок, тот неизбежно утрачивает способность воспринимать высшее. Ибо только ощущения, относящиеся к более тонким уровням, могут в свою очередь вести к этим более тонким уровням.
Пустота содержания интеллектуального знания — обратный разворот?
С прогрессирующим познанием пустоты содержания многих предполагаемых сокровищниц знания и сознанием того, что чрезмерное накопление земного знания не обладает действительной ценностью, может образоваться движущая сила для глубокого разворота. В течение долгого времени люди односторонним образом навязывали всему обществу одностороннюю ориентацию в направлении рассудка — и тем самым однобоко «раскормили» передний мозг так, что теперь он играючи доминирует над всеми другими частями мозга. Таким образом, неестественное развитие переднего мозга может быть остановлено. Не имея необходимости непрестанно разрабатывать интеллектуальные конструкции такое развитие утрачивает свою движущую силу. Постепенно может быть восстановлен естественный порядок.
Воспоминание о детстве — изначальная жизненность
Вспомним: мы пришли на эту Землю как искры чистой жизненности, в детстве радуясь всякому проявлению природы — каждому запаху, каждому звуку. Но затем нас принудительно поместили в школьную систему, где любое свободное пространство, через которое могла бы протекать радостная жизненность, было загромождено якобы необходимым и чрезвычайно важным земным знанием. Многие теряли в этом себя — до тех пор, пока такое положение вещей не становилось для них некой борьбой и поединком, или сном, из которого они уже не могли пробудиться.
Вывод — поворотная точка рассудка
Таким образом, высшая точка рассудочной деятельности может быть одновременно его зенитом и началом крушения этой «Вавилонской башни». Однако эта башня не только образует основу многого, почти всего в нашем обществе, но ещё и продолжает возводиться в каждом отдельном человеке и вновь и вновь обновляться в нём. Только когда после полного крушения осядет пыль, появится свет истинного познания.