После опыта с телеграм-ботом, начал углубляться в тему, а поскольку первый опыт с программировванием на Pyton был не очень приятным, пошел в сторону систем автоматизации. И это оказалось намного интереснее. Пересмотрел много видео, и решил пойти поучиться, поскольку нужны единомышленики, которые смогут помочь. Курс проводит automatica.io
Автоматизацию — написания агентов, сценариев обработки, логику делают в среде n8n. В доплнение к ней еще интересная среда Flowise. Инструментарий для начального уровня бесплатный и очень обширный. Можно создать учетную запись и смело пользоваться облаками поставщиков. Но главная фишка, он может быть развернут локально. Поскольку взаимодействие идет через интернет, то размещать у себя локально или на NAS смысла не видел. Поэтому стал рассматривать возможность аренды VPS. По примеру видеороликов от Anthony Vdovitchenko я подсмотрел интересный вариант- получения в облаке cloud.ru виртуалки Evolution free tier бесплатно навсегда
После получения машины и настройки портов для доступа, развернул с использованием скрипта от miolamio — cloud-local-n8n-flowise два сервиса: n8n и flowise. Памяти и ресурсов хватает, чтобы спокойно проводить эксперименты по написанию скриптов автоматизации. Но уже в процессе ознокомления наткнулся на другой скрипт отkossakovsky — n8n-installer , который и рекомендую. Он включает в себя необходимые сервисы для автономной работы, обращаясь только в LLM моделям Чатботов. Хотя также имеет компонент Ollama, который может локально деражать LLM модель. Однако даже на NAS и ноутбуке я это уже пробовал- для работы с моделью нужен очень производительный ресурс по все параметрам, а лучше с GPU. Либо сильно ужиматься по модели, которая максимум, будет просто отвечать. Но бесплатные или недорогие VPS такого не дают, да и бесплатные они условно- если поднять нагрузку, то придется платить.
Делается все очень просто. создаются ноды, которые соединяются между собой. Ноды для подключения к внешним ресурсам имеют настройку создания креденшинал по API к интересуемому ресурсу. Так обрастаешь кучей записей к ресурсам. Вот уже на первое время какой у меня вышел:
Но для России возникют ситуации, когда некоторые модули, в частности OpenAI и все его модули не разрешены. Для частичного обхода, использовать стал OpenRouter и Together, где можно выбрать модели бесплатные и платные.
Мой первый проект- это создать агента, что я делал на Pyton. Но сразу же бросается в глаза как же просто делается, нагляднее. Ниже вариант Телеграм-бота, который общается с использованием LLM модели, и может записывать историю, он не забудет как нас зовут и может описать по диалогу со временем мой автопортрет. И это ну 5 минут, с учетом подключений.
Немного модифицированный, где внутри идет обращение к Flowise, в которй пишется история и выбираются модели LLM. Как видно, для модификации ассистента мне не нужно все переделывать, я могу использовать уже настроенные модули.
Удобство во втором варианте, что можно сам чат Flowise использовать отдельно, например интегрировать в код сайта, в pyton, ну или просто открыть страничку с окном чата.
Впереди полно новостей, возможно и взаимодействие с сайтом изменится. Кто знает как и кто будет писать заметки.
