Этот самодельный робот «кайфует» в режиме реального времени

Любитель из сообщества LocalLLaMA на Reddit ( ) создал, пожалуй, самую неожиданную интеграцию с LLM, которую мы видели за весь год: робота-чемодан под названием Sparky, который становится всё более… бессвязным при воздействии дыма. Это происходит не за счёт заранее запрограммированного поведения, а благодаря подаче реальных данных с датчиков непосредственно в параметры выборки модели.

Проект был опубликован пользователем Reddit u/CreativelyBankrupt. В его основе лежит датчик газа MQ-2 ( стоимость на Amazon в настоящее время составляет 7,99 долларов), установленный внутри корпуса робота. Каждые 500 миллисекунд датчик измеряет состояние окружающего воздуха, сравнивая его с адаптивным эталонным значением для чистого воздуха, и преобразует наличие дыма в фазовое значение в диапазоне от 0 до 10. Затем это фазовое значение в реальном времени изменяет алгоритм генерации текста моделью LLM. Например, по мере увеличения уровня задымления значение temperature поднимается с 1,0 до примерно 1,6, top_p — с 0,95 до 0,99, а top_k — с 64 до 120.

Когда это происходит, словарный запас Sparky сокращается, и робот начинает использовать лексемы с более низкой вероятностью, а его ответы становятся более «шумными» — поскольку «живой» сэмплер действует точно так же, как высокие параметры выборки влияют на любую языковую модель. Каждый «высокоуровневый» ответ генерируется заново, поэтому ни один ответ не повторяется. Корректировка персонажа на каждом этапе обеспечивает проявление соответствующего поведения (без того, чтобы робот фактически объявлял о своём состоянии).

Наблюдается также физическая обратная связь. У Sparky опускаются глаза, в голосовом выводе появляется лёгкая протяжность, а на 10-й фазе дисплей переходит в режим полного эффекта «дым и плазма». Это состояние сохраняется в течение семи минут, после чего эффект постепенно затухает.

Создатель откровенно говорит об ограничениях аппаратного обеспечения — датчик MQ-2 является датчиком летучих органических соединений (VOC), а это означает, что ладан или сигарета вызовут такую же реакцию, что и каннабис, и он не может различать источники дыма.

На момент написания статьи видео набрало более 1 100 лайков на Reddit. Посмотрите его ниже:

My suitcase robot gets high now off a real gas sensor wired straight into the LLM sampler. Smoke raises temperature/top_p/top_k live, so his speech genuinely gets loopier and never repeats.
by u/CreativelyBankrupt in LocalLLaMA