Воскресенье, 22. Ноябрь 2026

Квантизация в Ollama: Q4, Q8 или FP16 — с какого момента страдает качество ответов?

Что такое квантизация в локальных LLM

Тот, кто запускает локальные ИИ-модели с помощью Ollama, LM Studio или других приложений на Mac с Apple Silicon, рано или поздно сталкивается с решающим вопросом: насколько сильно можно сжать языковую модель, не ухудшая качество её ответов? Современные ИИ-модели частично требуют огромных объёмов оперативной памяти. С помощью так называемой квантизации эту потребность можно существенно снизить, чтобы даже мощные модели можно было запускать на сравнительно доступном оборудовании. Однако не каждая степень сжатия одинаково подходит для сложных задач.

Между Q2, Q4, Q8 и FP16 существуют заметные различия по потреблению памяти, скорости и точности. Особенно при сложных анализах, задачах программирования или обработке собственных документов эти различия могут быть решающими. В этой статье объясняются технические основы квантизации, сравниваются распространённые форматы, такие как GGUF и MLX, и показывается, как различные уровни точности влияют на локальные ИИ-системы. Практические рекомендации помогают найти разумный компромисс между производительностью, потреблением памяти и качеством ответов для собственного оборудования и конкретного сценария использования.

Читать далее

LLMS.txt для WordPress: подготовка сайта к использованию систем искусственного интеллекта с помощью бесплатного плагина

llms.txt — плагин для WordPress

На протяжении многих лет поисковая оптимизация (SEO) была для владельцев сайтов главным критерием успеха. Тот, кто хотел, чтобы его сайт хорошо индексировался в Google, уделял внимание содержательным заголовкам, качественному контенту, быстрой загрузке страниц и четкой технической структуре. Эти основные правила действуют и по сей день и, по всей видимости, еще долго будут оставаться актуальными. В то же время Интернет меняется с такой скоростью, которую еще несколько лет назад было трудно себе представить. Все больше людей задают свои вопросы не только поисковой системе, но и напрямую искусственному интеллекту. Будь то ChatGPT, Claude, Gemini или другие системы ИИ — сегодня часто достаточно одного вопроса, чтобы получить подробный ответ, не просматривая предварительно страницу результатов поиска.

В связи с этим перед владельцами веб-сайтов возникает новый вопрос: как эти системы искусственного интеллекта вообще получают нужную информацию? И как они определяют, какие материалы на сайте являются особенно важными?

Читать далее

От FileMaker к облаку: как SchallOS объединяет бизнес-программное обеспечение с ИИ, средой выполнения и обновлениями

SchallOS — интеллектуальная платформа приложений

При разработке бизнес-приложения в первую очередь внимание уделяется видимым задачам. Создаются таблицы, определяются связи, разрабатываются формы ввода данных и автоматизируются рабочие процессы. Как только первые пользователи получают возможность работать с решением, кажется, что значительная часть проекта завершена. Однако при практическом использовании начинается этап, который в долгосрочной перспективе оказывается более сложным. Приложение, используемое в бизнесе, необходимо поддерживать, расширять и адаптировать к новым требованиям. Изменения должны документироваться, новые версии — распространяться, а имеющиеся данные — надежно переноситься. К этому добавляются различные права доступа пользователей, резервное копирование данных, анализ ошибок и вопрос о том, где будет развернуто решение: локально, на собственном сервере или в облаке.

Многие платформы разработки в первую очередь сосредоточены на создании самого приложения. Для обновлений, документирования, развертывания и эксплуатации позже добавляются дополнительные инструменты и индивидуальные процедуры. Со временем формируется техническая среда, состоящая из множества отдельных компонентов, которые можно удержать вместе лишь с значительными затратами. Поэтому SchallOS придерживается более комплексного подхода. Платформа призвана сопровождать бизнес-приложение не только на этапе его создания, но и на протяжении всего жизненного цикла: от разработки, документирования и развертывания до обновлений и постоянной эксплуатации.

Читать далее

Разработка программного обеспечения с помощью Codex, ChatGPT и ИИ: практическое руководство для разработчиков

Разработка программного обеспечения с использованием ИИ

Если бы ты спросил меня несколько лет назад, как будет выглядеть разработка программного обеспечения через десять лет, я бы, вероятно, рассказал о новых языках программирования, более совершенных фреймворках или более мощных средах разработки. Сегодня мой ответ был бы совершенно иным. Самые большие изменения происходят не в инструментах, а в том, как мы, разработчики, думаем и работаем.

В то время как я пишу эти строки, я сам работаю над новой программной системой. При этом уже несколько недель я активно использую современные инструменты искусственного интеллекта, такие как Codex и другие языковые модели. Сначала я был просто любопытен, а теперь я, прежде всего, впечатлен. Не потому, что ИИ вдруг все делает сам, а потому, что он удивительно хорошо справляется с определенными задачами и тем самым открывает новые способы работы.

Читать далее

В чем смысл жизни? Сравнение религий, философов и Хельмута Тилике

Вопрос о смысле жизни

Есть вопросы, которые волнуют человечество уже тысячи лет. Вопросы, которые никогда не исчезнут, независимо от того, насколько современным станет наш мир. Один из таких вопросов, вероятно, довольно прост: В чем на самом деле заключается смысл жизни?

Интересно, что сегодня ответ „42“ появляется снова и снова - обычно с легкой улыбкой. Предыстория взята из „Путеводитель автостопщика по Галактике“ Дуглас Адамс. По сюжету, высокоразвитая цивилизация строит гигантский суперкомпьютер, который должен за миллионы лет вычислить „ответ на главный вопрос о жизни, Вселенной и всем остальном“. В итоге результат оказывается простым: 42. Абсурд в том, что в итоге никто не знает, каким был изначальный вопрос.

Именно поэтому эта сцена стала всемирно известной. Она смешная, но в то же время удивительно глубокая. Потому что, возможно, она очень точно описывает основную человеческую проблему: мы часто отчаянно ищем ответы, даже не зная, какой вопрос задаем.

Читать далее

Как искусственный интеллект меняет разработку программного обеспечения и FileMaker

Эволюция ИИ в разработке баз данных FileMaker

У любого, кто сейчас пролистывает новостные порталы, социальные сети или бизнес-платформы, быстро сложится впечатление, что искусственный интеллект практически в одночасье меняет весь мир работы. Новые инструменты, новые языковые модели и новые обещания появляются практически ежедневно. Тексты пишутся автоматически, изображения генерируются, видео создаются, а программное обеспечение иногда подготавливается с помощью голосового ввода.

Для многих компаний это создает странную смесь любопытства и давления. В конце концов, никто не хочет упустить лодку. В то же время многие предприниматели, фрилансеры и разработчики пока не знают, какие из этих технологий действительно останутся актуальными в долгосрочной перспективе. В этом, пожалуй, и заключается особенность нынешнего этапа развития ИИ: почти все чувствуют, что что-то меняется, но вряд ли кто-то может достоверно оценить, насколько быстро и в каком направлении.

Читать далее

От содержания к сути: как создаются цифровые системы, которые невозможно скопировать

Система вместо индивидуального контента

Когда сегодня вы перемещаетесь в цифровом пространстве, у вас очень быстро складывается определенное впечатление: если вы заметны, значит, вы успешны. Если у вас есть охват, то у вас есть влияние. А если вы производите много контента, то автоматически накапливаете что-то. На первый взгляд это уравнение кажется правдоподобным - но оно обманчиво. Потому что видимость - это не право собственности. Охват - это не собственность. А контент - это далеко не фундамент.

Сообщение может быть прочитано тысячи раз и практически исчезнуть через несколько дней. Пост в социальных сетях может стать вирусным - и в то же время не иметь долговременного эффекта. Даже хорошо размещенный в поисковых системах контент не является автоматически стабильным. Они зависят от алгоритмов, правил платформы и изменений, которые вы не можете контролировать.

Читать далее

От экспорта данных ChatGPT к собственному ИИ знаний: шаг за шагом с Ollama и Qdrant

Путь к собственной памяти искусственного интеллекта

В первой части этого цикла статей мы увидели, что экспорт данных ChatGPT - это нечто большее, чем просто техническая функция. Экспортированные данные - это коллекция мыслей, идей, анализов и разговоров, которые накапливались в течение длительного периода времени. Но пока эти данные хранятся только в виде архива на вашем жестком диске, они так и остаются архивом. Решающий шаг - сделать эту информацию снова пригодной для использования. Именно с этого начинается разработка персонального ИИ знаний.

Идея на самом деле удивительно проста: ИИ должен не только работать с общими знаниями, но и иметь доступ к вашим собственным данным. Он должен уметь искать информацию в предыдущих разговорах, находить подходящий контент и включать его в новые ответы. Таким образом, обычный ИИ превращается в своего рода цифровую память. Это вторая часть цикла статей, в которой мы рассмотрим практическую сторону вопроса.

Читать далее