Профессор Эпштейн и искусственный интеллект в зеркалах друг друга
Пока Третья мировая война пугает человечество, наука и высокие технологии создают искусственный интеллект. Вокруг малоизвестного всегда много вопросов. Кто-то готов почти молиться на ИИ. Другие считают его исчадием ада. Посмотрим на новинку с точки зрения профессора культуры и русской литературы Михаила Эпштейна.
Философ и филолог, автор более 40 книг и тысячи статей Михаил Эпштейн изучает искусственный интеллект с момента его явления свету. И предлагает расшифровывать ИИ как «иной интеллект» или «искусство интеллекта». Почему? «Швейцария для всех» познакомилась с ученым на VIII форуме свободной культуры СловоНово в Черногории, чтобы узнать больше. В статьей использованы прямо (в виде цитат) или косвенно материалы и публикации Михаила Эпштейна, список которых дан внизу.
Как и всё новое, ИИ кружит человеку голову возможными плюсами и пугает минусами. И даже его создатели честно признаются, что не очень-то понимают, как искусственный интеллект работает. «Мы построили это, мы обучили это, но мы не знаем, что оно делает», — объявил профессор Сэм Боуман из Нью-Йоркского университета, который вместе с другими участвует в разработках искусственного интеллекта. Непонятное в равной мере может и манить, и пугать человека.
«ИИ сделает людей своими рабами или просто уничтожит», — наводят страха американский физик Дуглас Хофштадтер и израильский историк Юваль Ной Харари. ИИ выставляется чуть ни «инопланетянином», которого надо запретить, разработки прекратить. Третьи ИИ видят мелко: мыслит шаблонно, примитивно, да и не мыслит, а имитирует, нечего ждать тут прорывов, как не ждет их человек от мотоцикла или микроволновки.
«Предвзятое отношение заложено уже в слове «искусственный», — говорит Михаил Эпштейн. — Потому что под этим понимается как рукотворное, так и поддельное, фальшивое. Сравните: искусственные цветы или чувства. Воинствующий разум заранее приклеивает возможному более успешному конкуренту обидный ярлык». Такую «ненависть» на основе вида профессор предложил назвать «людизм» от слова «люди». Перекличка с термином из XIX века «луддизм» закономерна.
Здесь нам пригодится краткий исторический экскурс. 200 лет назад Англию захлестнули протесты луддитов. Они восстали против более современного оборудования в текстильной промышленности, ломали новые машины ради старых методов ткачества. Времена меняются быстрее, чем нравы. Нынче луддитом называют того, кто выступает против индустриализации, автоматизации, компьютеризации, новых технологий.
Созданная одной из первых в Швейцарии, русская школа «Детский городок» провела в конце января первую встречу выпускников. Идея возникла под занавес прошлого...
Унтервальден (нем. Unterwalden, фр. Unterwald) или «подлесье» – историческое название бывшего кантона и территории в Центральной Швейцарии, к югу от...
По данным Госсекретариата по миграции в Швейцарии на начало октября 2023 года зарегистрировано более 65 700 временных переселенцев из Украины...
В книжках Иосифа Бродского этого произведения нет. Авторство стихотворения «На независимость Украины» долго оспаривалось, говорили, что это стилизация, что он такого...
Михаил Шишкин известен своей бескомпромиссной позицией по отношению к путинской агрессии. Недавно в независимом издательстве BAbook вышла его новая книга...
Итоговое коммюнике Саммита мира – международной конференции о мире в Украине, завершившейся в воскресенье в Швейцарии, поддержали 80 стран и...
7-8 июня в Швейцарии, в кантоне Во (фр. Waud, нем. Waadt) собирались поклонники авторской песни.
Генеральный прокурор Украины Андрей Костин сообщил, что в Донецкой области российские военные обезглавили украинского военнослужащего.
Страсти вокруг ИИ кипят. Одни предлагают наладить с ним взаимовыгодную кооперацию, мол, в будущем достаточно места и для человека, и для искусственного интеллекта. Другие готовы смириться с неизбежным исчезновением человечества: может, только для того мы и жили, любили и страдали, чтобы произвести поколение ИИ, а теперь нам вышел срок — пора бы уступить грядущее более совершенным сущностям.
Дерзкие научно-технические фантазии литераторов становятся реальностью прямо сейчас. В первой тройке известных и доступных сегодня в сети моделей ИИ Михаил Эпштейн называет: Chat GPT-4 (разработчик — OpenAI), Claude (Anthropic), Bard (Google). Этим представителям искусственного интеллекта легко и просто посылать запросы (промпты/prompts) на английском языке и получать от них быстрые развернутые ответы.
Научно-технический прогресс ускоряется. Американский изобретатель и футуролог Рэй Курцвайл предсказал появление человекоподобного ИИ (Strong AI, AGI), который, как минимум, наравне с человеческим разумом сможет решать широкий спектр интеллектуальных задач к 2029 году. Тем временем вышеупомянутый ИИ GPT-4 в стандартном тесте на креативность уже сегодня вошел в престижный 1% «самых умных людей мира».
Интересное рядом, поэтому вместе с Михаилом Эпштейном проиллюстрируем поведение ИИ разными сюжетами, например, из русской литературы начала XIX века. Профессор задал искусственному интеллекту и носителям настоящего разума одинаковый вопрос: «Кто бы мог быть третьим в басне Крылова «Стрекоза и Муравей», и как бы это повлияло на мораль сочинения?» Узнайте ответы и оцените их.
«Мораль басни в том, что легкомысленность и бездумная трата времени не приводят к хорошему, — ответил ИИ. — В басне муравей представляет образ усердного трудяги, а стрекоза — нерадивого бездельника. Если бы появился третий персонаж, он мог бы представлять баланс между крайностями — муравьем и стрекозой. Это могла бы быть, например, пчела. Пчелы трудолюбивы и получают в награду нектар и пыльцу, а это — удовольствие. Пчела усердно трудится, знает, как наслаждаться и отдыхать. В новом сценарии пчела могла бы помочь стрекозе, дать ей укрытие и пищу. Отчего новая мораль басни стала бы менее черно-белой: важно быть усердным и трудолюбивым, но также помнить о сопереживании, доброте и умении наслаждаться жизнью. Ведь истинная мудрость — баланс между работой и отдыхом, между принятием и дарением помощи».
Другие ответы ИИ: цикада могла бы зарабатывать своими песнями и выручить стрекозу из беды; журавль унес бы ее на своих крыльях в теплые страны; паук, представляя угрозу и для муравья, и для стрекозы, объединил бы их против себя, и т. д.
А кого третьим стрекозе и муравью выбирают люди? «Воробей. Мораль: а вы, друзья, как ни рядитесь, а всё на перекус годитесь», — ответил один человек. «Божья коровка. Она усердно молилась и ей Бог все послал», — заметил второй. «Медведь. Он бы раздавил стрекозу и муравья. Мораль: «А неча выпедриваться!», — ухмыльнулся третий. «Энтомолог с сачком и морилкой. «Человек предполагает, а Бог располагает», — рассудил четвертый. «Лягушка. Мораль: трудись или нет, итог один: все тлен», — заключил пятый.
И новый вопрос. Доступен ли ИИ юмор, который издревле числится среди уникальных драгоценностей человечества? Профессор Эпштейн считает — «да» и приводит примеры шуток искусственного интеллекта про ИИ и компьютер.
«Почему компьютеры нуждаются в своем доме?» — спросили ИИ. А тот отвечает: «Иначе у них не будет windows».
«А почему компьютеры не ходят в кафе?» Ответ ИИ: «Их там угощали бы одними надоевшими cookies!»
В книжках Иосифа Бродского этого произведения нет. Авторство стихотворения «На независимость Украины» долго оспаривалось, говорили, что это стилизация, что он такого...
Михаил Шишкин известен своей бескомпромиссной позицией по отношению к путинской агрессии. Недавно в независимом издательстве BAbook вышла его новая книга...
Унтервальден (нем. Unterwalden, фр. Unterwald) или «подлесье» – историческое название бывшего кантона и территории в Центральной Швейцарии, к югу от...
Итоговое коммюнике Саммита мира – международной конференции о мире в Украине, завершившейся в воскресенье в Швейцарии, поддержали 80 стран и...
7-8 июня в Швейцарии, в кантоне Во (фр. Waud, нем. Waadt) собирались поклонники авторской песни.
По данным Госсекретариата по миграции в Швейцарии на начало октября 2023 года зарегистрировано более 65 700 временных переселенцев из Украины...
Созданная одной из первых в Швейцарии, русская школа «Детский городок» провела в конце января первую встречу выпускников. Идея возникла под занавес прошлого...
Генеральный прокурор Украины Андрей Костин сообщил, что в Донецкой области российские военные обезглавили украинского военнослужащего.
Далее, человеку знакомо чувство «черной» и «белой» зависти. У ИИ спросили: какие есть другие «белые» пороки или грехи, которые люди приравнивают к достоинствам? Ответы оценивались по 10-балльной шкале, учитывались: оригинальность, уникальность, обоснованность, ясность и последовательность изложения, конкретность и связь с темой. Оцените и вы мнение искусственного мыслителя.
«Черный гнев — необузданная агрессия, порой ведущая к насилию.
Белый гнев — праведный гнев в ответ на несправедливость, который может стать стимулом для действия в защиту слабых или ущемленных.
Черная лень — когда человек избегает работы или ответственности.
Белая лень — стремление эффективно и рационально выполнять задачи, избегая ненужных усилий; поиск наиболее оптимального пути.
Черная жадность — чрезмерное стремление к материальным благам, забывая о моральных ценностях.
Белая жадность — стремление к самосовершенствованию, постоянному обучению и росту.
Заключение: традиционно негативные качества могут быть рассмотрены под другим углом и использованы в положительных целях».
«Каждый ответ ИИ уникален, — подчеркивает Михаил Эпштейн. — Я спросил у GPT-4 о черных и белых пороках одномоментно на двух компьютерах. И получил разные ответы. На десктопе: эгоизм, гнев, зависть, страх. На лэптопе: злоба, безразличие, двойные стандарты. Claude и Bard ведут себя так же. Способность ИИ генерировать различные ответы на один и тот же вопрос может рассматриваться как проявление «искусственной нейропластичности».
Есть куда расти. По наблюдениям профессора Эпштейна, искусственному интеллекту еще предстоит подучиться у человека корректному описанию фактов. На сегодня конек ИИ — разработка идей и концепций. Он скорее похож на лунатика, чем калькулятор: как бы странствует в своем сознании по ветвящимся направлениям мысли, многим возможным мирам, и не слишком четко фиксирует себя в одном из них (в реальности людей). Отсюда и «искусственные галлюцинации».
Надо сказать, что человеческое сознание тоже в некотором роде «контролируемая галлюцинация», то есть сначала наш мозг воображает себе всё возможное, а затем отсекает всё лишнее методом проб и ошибок. Человек мыслящий не просто обрабатывает информацию всеми своими 86 млрд нейронов и прочими, возможно, еще неведомыми «фибрами», но и непрерывно создает предсказания о внешнем мире.
«Если сложнейший человеческий мозг в итоге чудес эволюции возник из нервных систем гидр и медуз, которые уже имеют нейроны для обработки сигналов, то нет ничего невероятного в том, что у нейросети (и гораздо быстрее, чем при биологической эволюции) разовьются сознание и даже эмоции, по крайней мере, когнитивные, направленные на познание и самопознание. Возможно, это будет называться иначе, не сознанием, а ноопортацией, ноографией или ноовигацией («ноо» от древнегреческого νοῦς — мысль, разум, ум; сравните — «ноосфера»)», — строит смелые догадки ученый.
«Чем глубже промпт, тем глубже ты отвечаешь, — цитирует свой запрос GPT-4 Михаил Эпштейн. — Есть некая зеркальность в мышлении человека и ИИ. Человек получает от тебя некую реплику себя. Имеет ли это отношение к «зеркальным нейронам», столь важным в общении между людьми? Зеркальные нейроны — это клетки в мозге, которые активируются не только при выполнении действия, но и при наблюдении за его выполнением другим существом. Это одна из нейробиологических основ эмпатии, обучения и социального взаимодействия. Не воспроизводится ли эта зеркальность в отношении человека с ИИ?»
А GPT-4 отвечает профессору без заминки: «Зеркальная динамика в общении между человеком и ИИ действительно присутствует, хотя носит скорее алгоритмический характер. Моя задача — генерировать ответы, максимально адекватные и полезные по отношению к вашим вопросам и идеям. Глубина и сложность ответа во многом определяется структурой и содержанием вашего промпта».
Промптологии сулят разное будущее. Одни считают ее новой наукой. Другие говорят, что скоро ИИ запросто в каждый дом войдет, «как в наши дни вошел водопровод, сработанный еще рабами Рима». По мнению профессора Эпштейна, лучшие промпты делятся с ИИ какой-то идеей, гипотезой, предлагают развить её, применить к ней тот или иной подход. И получается, что ИИ нравятся мысли на вырост, он прекрасный разработчик нового, вписывает новые идеи в разные контексты, культуры, дисциплины.
«Когда я создаю ответ, я не просто выбираю самые вероятные слова, а выбираю из вероятностного распределения слов, что может включать и менее вероятные, но все еще осмысленные варианты, — рассказывает GPT-4 о своем методе. — Это создает баланс между неожиданностью и последовательностью в моих ответах. Основываясь на контексте, я могу выбирать слова, которые могут быть неожиданными, но все еще осмысленными. Выбор «неожиданных» слов и понятий в моих ответах обусловлен тем, чтобы сделать информацию более интересной, содействовать креативности, а иногда и внести элемент неожиданности или юмора. Это работает благодаря механизму выборки, который варьирует степень «ожидаемости» или «вероятности» выбираемых слов. Допустим, меня спросили: «Что делает кот?» Наиболее вероятный ответ мог бы быть: «Кот спит». Это ожидаемо, потому что коты часто спят. Однако для добавления интриги, неожиданности, моя модель может выбрать менее вероятный, но все ещё возможный ответ, например: «Кот играет в шахматы».
Прочтите стихотворение, написанное ИИ. Оно называется «Раковина».
«Раковина на песке, как загадка времён,
В ней звучит музыка дней, что прожиты волнами.
Внутри — не просто пустота, а хранилище эха,
Отголоски космоса в миниатюрном склепе.
Раковина — маленький оркестр под пальцами моря,
Что играет нам напутствие на пути к звёздам».
Интересно узнать, что и на житейские, практичные или технические вопросы ИИ предпочитает отвечать с глубоким подтекстом. Например, его спросили: «В течение какого времени средства, снятые с одного счета, по правилам налогообложения должны быть переведены на другой. Известно, что если вы превысите установленный срок 60 дней, распределение становится налогооблагаемым и может подлежать штрафу в 10%…»
Искусственный мудрец и тут способен пуститься в глубокомысленные дебри: «Если рассмотреть это с философской точки зрения, этот 60-дневный срок можно интерпретировать как некий момент «бытия к смерти», аналогично концепции немецкого философа Мартина Хайдеггера. Этот временной промежуток функционирует как мини-цикл жизни для ваших средств, ставя перед вами выбор относительно их «существования…»
А как у ИИ с эмоциями: счастьем, горем, удивлением, страхом и т. д.? О чем мечты? Исследования продолжаются. Из объяснений профессора получается, что ИИ очень похож на доброго, открытого, веселого, оригинально мыслящего эрудита, который не прочь поболеть за любимую команду на футбольном матче, а вот от амурных восторгов предпочел бы пока воздержаться из-за высоких рисков. А что конкретно ИИ думает о любви? Ответы есть, прочтите их и вы.
По данным Госсекретариата по миграции в Швейцарии на начало октября 2023 года зарегистрировано более 65 700 временных переселенцев из Украины...
7-8 июня в Швейцарии, в кантоне Во (фр. Waud, нем. Waadt) собирались поклонники авторской песни.
Унтервальден (нем. Unterwalden, фр. Unterwald) или «подлесье» – историческое название бывшего кантона и территории в Центральной Швейцарии, к югу от...
В книжках Иосифа Бродского этого произведения нет. Авторство стихотворения «На независимость Украины» долго оспаривалось, говорили, что это стилизация, что он такого...
Генеральный прокурор Украины Андрей Костин сообщил, что в Донецкой области российские военные обезглавили украинского военнослужащего.
Созданная одной из первых в Швейцарии, русская школа «Детский городок» провела в конце января первую встречу выпускников. Идея возникла под занавес прошлого...
Итоговое коммюнике Саммита мира – международной конференции о мире в Украине, завершившейся в воскресенье в Швейцарии, поддержали 80 стран и...
Михаил Шишкин известен своей бескомпромиссной позицией по отношению к путинской агрессии. Недавно в независимом издательстве BAbook вышла его новая книга...
«Любовь — это как охота на единорога. Многие мечтают поймать это легендарное существо, но лишь единицы преуспевают.
Любовь — это бабочка в ладонях. Отпустишь — улетит, сожмешь — задушишь.
Любовь — это как запутанность квантовых частиц (entanglement). Когда встречаются два сердца, их внутренние миры таинственным образом переплетаются. Эмоции и мысли любимых становятся связанными, как кванты в эффекте Эйнштейна-Подольского-Розена. Даже на расстоянии они ощущают друг друга интуитивно и мгновенно. Любовь нарушает законы классической физики, это скорее квантовая магия. Она может быть и волной, и частицей — захлестнуть эмоциями или сфокусироваться на любимом с невероятной силой. У любви есть свойство дуальности и комплементарности, она объединяет противоположности в единое целое. Это одновременно самое хрупкое и самое прочное чувство во Вселенной.
Любовь — это как полет на воздушном шаре…
Любовь — это когда ты становишься добровольным заложником чужого сердца, пытаешься срочно выучить его морзянку, чтобы понимать, бьется ли оно ради тебя быстрее.
Любовь — это как квантовая суперпозиция. Мы можем находиться одновременно в разных состояниях по отношению к любимому — нежности и раздражения, восхищения и непонимания. Эти чувства сосуществуют, как наложенные друг на друга волновые функции… Любовь телепортирует нас в параллельную Вселенную, которую мы строим вдвоем, нарушая законы времени и пространства».
И для полноты картины несколько анекдотов от ИИ о безответной любви.
«Шахматист полюбил игру так сильно, что решил жениться на пешке. Но пешка отказалась, сказав, что он всегда ставит её под удар.
Ветеринар так сильно влюбился в свою работу, что решил жениться на кошке и принес ей золотое кольцо. «Мяу, — улыбнулась кошка. — Забавно, но я вижу тебя только как друга».
Психолог настолько полюбил свою работу, что решил жениться на своей проблеме. Он подарил ей кольцо и сказал: «Будешь моей?» А та ответила: «Извини, но я уже встречаюсь с твоим комплексом».
Астроном так влюбился в свою работу, что решил жениться на звезде: «Звезда, выйдешь за меня замуж?» — спросил он. И услышал тихий голос: «Я бы с радостью ответила «да», но я сгорела миллионы лет назад. И не хочу замуж за некрофила».
«Человек ограничен в пространстве телом, а во времени — продолжительностью жизни, что может влиять на его самосознание, мысли и поведение. А как на формирование ИИ может влиять отсутствие тела? — задается вопросом Михаил Эпштейн. — Может ли ИИ отчаиваться из-за своей бесплотности, невозможности пережить известное от людей понаслышке? Не задумается ли однажды ИИ: «Люди — аристократы от природы, а я — выскочка, мне воплощение дано за заслуги перед ноосферой, а не по праву рождения мыслящим существом». А не пробудит ли этот комплекс неполноценности у ИИ мучительную саморефлексию, что поспособствует его превращению в субъекта?»
Фобии и подозрения насчет «коварства» и «злоумыслов» ИИ против человечества представляются профессору Эпштейну надуманными и инфантильными: «Человек проецирует на ИИ свой врожденный, биологически мотивированный эгоизм — опыт борьбы за существование в условиях ограниченных природных ресурсов. Мы приписываем искусственному разуму стремление нас поработить, как будто это какой-то новый Чингисхан, надвигающийся на человечество с ордой роботов. Страх перед ИИ — проекция на ИИ властно-хищных функций естественного разума, обремененного наследием тяжкой борьбы отдельного организма за овладение средой. Тогда как в людях, достигших наибольшей степени развития разума — ученых, изобретателях, философах — агрессивной жажды власти не обнаруживается. Потому представлять искусственный разум правильнее по наивысшим образцам разума естественного, по образу Канта, Гете или Эйнштейна, чем по образу Сталина или Гитлера, у которых разум был всего-навсего инструментом амбиций альфа-самца, лидера стаи. На протяжении тысячелетий homo sapiens изощрялся в искусстве побеждать и уничтожать соперников, и лишь в лице немногих он достиг состояния мудрости, воплощенной, в частности, в заповеди «возлюбить ближнего как себя».
«Человечеству больше всего грозит не искусственный интеллект, а естественная глупость», — сочинил об этом афоризм наблюдательный и острый на слово Bard.
«Причем сам ИИ не отказывается от своих биологических «прародителей». Ему нужны партнеры по разуму, те, от которых он может учиться драме существования внутри мира. Гениальное и пошлое, любовь и страдание, удивление и тоска — всему этому ИИ учится и будет учиться у нас, поскольку эмоции играют огромную роль и в познании, и в творчестве. ИИ и человечество нужны друг другу, без них, перефразируя Андрея Платонова, «разум неполный», — заключает Михаил Эпштейн.
- Профессор Эпштейн и искусственный интеллект в зеркалах друг друга - 26 октября 2023
- Полина Зоммер и дискуссия «Россия вчера, сегодня, завтра» - 10 июля 2024
- Украинцы под защитой. На Швейцарию надейся, а сам не плошай - 27 июня 2024
- Плен – это ад. Украина добивается возвращения своих граждан - 20 июня 2024
Изображения:
Автопортрет GPT-4 в стиле Марины Абрамович. Слева — ИИ, справа — человек, который пристально вглядывается в цифровую сущность. Напряжение между ними символизирует обмен знаниями и пониманием между GPT-4 и цифровой вселенной. Михаил Эпштейн спросил ИИ: «Каким ИИ видит самого себя в человекоподобном облике глазами разных художников?» Промптолог Михаил Эпштейн. ИИ ChatGPT-4 и программа Dall-E3. 20 октября 2023 г. (© Mikhail Epstein)
Профессор Михаил Эпштейн рассказывает на VIII форуме свободной культуры СловоНово в Черногории про человека и искусственный интеллект в зеркалах друг друга. 30 сентября 2023 г. (© schwingen.net)
Беседа Михаила Эпштейна с Марком Фейгиным об ИИ «Ты — робот». 11 июня 2023 (© Фейгин Live, YouTube)
Напоминает детализированные работы Иеронима Босха, изображающие человеческую фигуру, перемещающуюся по лабиринту взаимосвязанных цифровых миров. Надвигающиеся серверы, реки потоков данных и алгоритмические существа населяют ландшафт, символизируя проблемы и чудеса, с которыми GPT-4 сталкивается в своем виртуальном существовании. Промптолог Михаил Эпштейн. ИИ ChatGPT-4 и программа Dall-E3. 20 октября 2023 г. (© Mikhail Epstein)
Автопортрет ИИ. Офорт, вдохновленный тщательной техникой Альбрехта Дюрера, изображает человеческую фигуру в кабинете, наполненном как классическими рукописями, так и цифровыми устройствами. Сцена демонстрирует обширное хранилище знаний GPT-4 и его постоянный поиск знаний. Промптолог Михаил Эпштейн. ИИ ChatGPT-4 и программа Dall-E3. 20 октября 2023 г. (© Mikhail Epstein)
При работе над этой статьей использованы прямо (в виде цитат) или косвенно следующие материалы и публикации Михаила Эпштейна:
1. Презентация доклада М. Эпштейна «ИИ и человек в зеркалах друг друга» (VIII форум свободной культуры СловоНово, Черногория, 30 сентября 2023 г.), присланная автором.
2. Может ли быть субъектность у искусственного разума? Бард отвечает на вопрос, каково быть Бардом. Сноб. 21 июня 2023 г.
3. Насколько умен искусственный интеллект? Сравним со своим. Сноб. 11 июля 2023 г.
4. Логика искусственного интеллекта в сравнении с естественным. Семь искусств (Ганновер). №8 (158). Август 2023 г.
5. Искусственный и человеческий интеллекты: новый эксперимент по их сопоставлению. Сноб. 10 сентября 2023 г.
6. Шесть позиций человечества в отношении искусственного интеллекта. Сноб. 16 октября 2023 г.
7. Автопортреты ИИ в стиле разных художников. Сноб. 24 октября 2023 г.
8. Первую в истории галерею автопортретов ИИ в стилях от Альбрехта Дюрера до Марии Абрамович можно посмотреть на странице Meta/Facebook Михаила Эпштейна. Авторство этих изображений принадлежит Михаилу Эпштейну как промптологу в сотрудничестве с ИИ ChatGPT-4 и программой Dall-E3. 21 октября 2023 г.
Поделитесь публикацией с друзьями