Ollama

Сообщения о Ollama, платформе для локальных моделей искусственного интеллекта. Здесь вы найдете инструкции, опыт и советы по использованию в повседневной жизни и в бизнесе.

Искусственный интеллект без шумихи: почему меньшее количество инструментов ИИ часто означает лучшую работу

на
Искусственный интеллект без лишней шумихи

Каждый, кто сегодня занимается темой искусственного интеллекта, почти неизбежно сталкивается со странным чувством: постоянным беспокойством. Не успеешь привыкнуть к одному инструменту, как появляются следующие десять. На YouTube одно видео сменяет другое: „Этот инструмент искусственного интеллекта меняет все“, „Вы просто обязаны использовать это сейчас“.“, „Те, кто пропускает, остаются позади“.“. И каждый раз на подсознательном уровне звучит одно и то же сообщение: Вы опоздали. Другие впереди. Вы должны догнать их.

Это касается не только ИТ-специалистов. Самозанятые, творческие работники, предприниматели и обычные сотрудники также чувствуют давление. Многие даже не знают, что именно делают эти инструменты, но у них есть ощущение, что они могут что-то упустить. А это как раз и вызывает стресс.

Читать далее

Облачный ИИ в роли директора школы: почему будущее работы за локальным ИИ

на
Облачный искусственный интеллект становится директором школы

Когда несколько лет назад большие языковые модели начали свое триумфальное шествие, они казались возвращением к старым добродетелям технологии: инструмент, который делает то, что ему говорят. Инструмент, который служит пользователю, а не наоборот. Первые версии - от GPT-3 до GPT-4 - имели недостатки, да, но они были удивительно полезны. Они объясняли, анализировали, формулировали и решали задачи. И делали это в основном без педагогического балласта.

Вы общались с этими моделями так, словно разговаривали с эрудированным сотрудником, который иногда ошибался в словах, но по сути просто работал. Любой, кто писал творческие тексты, генерировал программный код или проводил длительные анализы в те времена, ощущал, насколько гладко это работает. Было ощущение свободы, открытого творческого пространства, технологии, которая поддерживала людей, а не исправляла их.

Читать далее

Apple MLX против NVIDIA: как работает локальный искусственный интеллект на Mac

на
Местный искусственный интеллект на Silicon с Apple Mac

Тот, кто сегодня работает с искусственным интеллектом, первым делом думает о ChatGPT или подобных онлайн-сервисах. Вы вводите вопрос, ждете несколько секунд - и получаете ответ, как будто на другом конце линии сидит очень начитанный и терпеливый собеседник. Но о чем легко забыть: Каждый ввод, каждое предложение, каждое слово отправляется через Интернет на внешние серверы. Именно там происходит настоящая работа - на огромных компьютерах, которые вы никогда не увидите своими глазами.

В принципе, локальная языковая модель работает точно так же - но без Интернета. Модель хранится в виде файла на компьютере пользователя, загружается в рабочую память при запуске и отвечает на вопросы прямо на устройстве. В основе лежит та же технология: нейронная сеть, которая понимает язык, генерирует тексты и распознает паттерны. Разница лишь в том, что все вычисления остаются внутри компании. Можно сказать: ChatGPT без облака.

Читать далее

Искусственный интеллект: какие рабочие места находятся под угрозой и как мы можем вооружиться уже сейчас

на
Какие рабочие места будут ликвидированы искусственным интеллектом в будущем

Вряд ли какое-либо другое технологическое изменение вошло в нашу повседневную жизнь так быстро, как искусственный интеллект. То, что еще вчера считалось технологией будущего, сегодня уже стало реальностью - будь то отправка текстовых сообщений, программирование, диагностика, перевод или даже создание музыки, произведений искусства или юридических документов.

Читать далее

MLX на Apple Silicon в качестве локального AI по сравнению с Ollama & Co.

на
Локальный искусственный интеллект на Mac с помощью MLX

В то время как централизованные сервисы искусственного интеллекта, такие как ChatGPT, Claude или Gemini, занимают ведущие позиции в заголовках газет, многие профессиональные пользователи испытывают растущую потребность в альтернативе - локальной, самоконтролируемой инфраструктуре искусственного интеллекта. Особенно для творческих процессов, конфиденциальных данных или повторяющихся рабочих процессов локальное решение часто является более устойчивым и безопасным вариантом.

Все, кто работает с Mac - особенно с Apple Silicon (M1, M2, M3 или M4), - теперь могут найти удивительно мощные инструменты для запуска собственных языковых моделей прямо на устройстве. В центре всего этого - новый, практически неизвестный компонент: MLX, фреймворк машинного обучения, разработанный Apple, который, вероятно, будет играть все более важную роль в экосистеме ИИ компании в ближайшие годы.

Читать далее

RAG с Ollama и Qdrant как универсальная поисковая система для собственных данных

на
Расширение локального ИИ с помощью баз данных с использованием RAG, Ollama и Qdrant

В условиях все более запутанного мира информации становится все более важным сделать собственные базы данных пригодными для целенаправленного поиска - не через классический полнотекстовый поиск, а через семантически релевантные ответы. Именно в этом и заключается принцип работы базы данных RAG - поискового решения с поддержкой искусственного интеллекта, состоящего из двух центральных компонентов:

Читать далее

Ollama встречает Qdrant: локальная память для вашего ИИ на Mac

на
Память для локального ИИ с Ollama и Qdrant

Локальный ИИ с памятью - без облака, без подписки, без отвлекающих факторов

В предыдущие статьи Я рассказал, как настроить Ollama на Mac install. Если вы уже выполнили этот шаг, то теперь у вас есть мощная локальная языковая модель - например, Mistral, LLaMA3 или другая совместимая модель, к которой можно обратиться через REST API.

Однако модель „знает“ только то, что находится в текущей подсказке. Она не запоминает предыдущие разговоры. Не хватает только воспоминаний..

Читать далее

Локальный ИИ на Mac: как installiere языковая модель с помощью Ollama

на

Локальный ИИ на Mac уже давно применяется на практике - особенно на компьютерах Apple-Silicon (серия M). С Ollama вы получаете среду выполнения для многих языковых моделей с открытым исходным кодом (например, Llama 3.1/3.2, Mistral, Gemma, Qwen). Текущая версия Ollama теперь также поставляется с удобным приложением, которое позволяет установить локальную языковую модель на вашем Mac одним щелчком мыши. В этой статье вы найдете прагматичное руководство от установки до первой подсказки - с практическими советами о том, где традиционно все идет не так.

Читать далее

↑