(Де)генеративные нейросети: принципы работы и язык описания¶

Борис Орехов

НИУ ВШЭ, ИРЛИ РАН

За презентацией можно следить здесь (на десктопе удобно листать пробелом)

QR

Как работают нейросети?¶

  • Нейросети отличаются от других программ тем, что учатся
  • Обучение — это генерализация закономерностей
  • Текстовые модели — закономерности следования токенов
  • Модели генерации изображений по тексту — закономерности соотношения текста и изображения
  • Генерализация посредством статистической индукции

диаграмма

  • Wow-эффект от нейросетей — благодаря сходству с тем, что делает человек
  • Связный текст, осмысленные фигуративные изображения

Кончен пир

Кончен пир, умолкли хоры

Но есть и отличия¶

  • нетипичная лексическая сочетаемость
  • ошибки при интерпретации морфем
  • интервенции из чуждых семантических доменов
  • абсурдные визуальные сочетания
  • плохая детализация сложных мест

Нетипичная лексическая сочетаемость¶

Чудеса являются неотъемлемой частью картины мира древнерусских жителей

древнерусские жители

Ошибки при интерпретации морфем¶

близнецы

Союз их кровный, не случайный

Взрывая, возмутишь ключи

Интервенции из чуждых семантических доменов¶

Актуальность темы исследования определяется постановкой новых задач в деле государственного реформирования, среди которых на особом месте стоит обращение к опыту прошлого

Курсовая работа по истории России на тему: «Промысел Божий и дьявольские козни в Повести временных лет»

Видение

Живая колесница мирозданья

Плохая детализация сложных мест¶

деталиация

Язык описания¶

  • Гуманитарная наука ищет язык для разговора об этом феномене
  • Я предлагаю сосредоточиться не на сходствах, а на различиях
  • Шахматисты умеют отличать компьютерные ходы от человеческих
  • В чем машинные «ходы» при порождении текста и генерации изображений?
  • Изучим на знакомом материале

Проблема: неестественное естественно¶

Экзоцистоз моего сотворения наименее болен деглиголизацией несуществующих восприятий. Даже один эскиз определяет беспредел. Эскизы мигрируют прежде, чем поддаться влиянию концептов и этот эскиз — человек-бутерброд!

Спроси меня:
Можешь ли ты смеяться так давно?
Можешь ли ты улыбаться так далеко?
Когда я захлопнул веки
прошёл многогранный гул...

Одигитрия

Икона Божией Матери «Одигитрия». Первая четверть XV века. Византия

Шеду

  • Нейросети продуцируют «среднее арифметическое» от обучающих данных
  • Всё оригинальное — это ошибки
  • Хорошо это или плохо это для работы с изображениями и философским текстом?
  • Если нам достаточно того, что делает сеть, значит, и картинки, и философский текст, это всего лишь технология (τέχνη)
  • Может быть, сложная, но потенциально постижимая
  • Такими оказались шахматы («точный ход») и программирование
  • Если недостаточно, то это больше, чем сумма прочитанного и статистическая индукция

Сайт, на котором собраны важные для меня проекты, тексты и выступления.

«Поэтика» Аристотеля, лонгрид об ошибках ChatGPT

QR