Как настроить локальный браузер AI на вашем телефоне





За последние пару лет генеративный искусственный интеллект стал популярен в цифровых продуктах, которые мы продвигаем ежедневно. От почтовых клиентов до инструментов редактирования — он глубоко укоренился в широком спектре инструментов. Веб-браузеры не являются исключением. Но с внедрением искусственного интеллекта вырисовывается призрак использования конфиденциальности. Хочу ли я, чтобы мои наиболее уязвимые разговоры ChatGPT проходили через серверы OpenAI или чтобы мои файлы находились на серверах Microsoft Copilot в течение нескольких месяцев? Для большинства пользователей ответом будет решительное «нет». Но в то же время становится все труднее избегать искусственного интеллекта в браузерах, особенно с учетом предлагаемого удобства.

Именно здесь на сцену выходят локальные браузеры с искусственным интеллектом. Думайте о них как об обычном веб-браузере, но в котором помощник AI работает полностью на вашем устройстве, а не отправляет ваши запросы на облачный сервер. В целом это похоже на взаимодействие с Gemini Nano на Pixel 10 Pro, где искусственный интеллект Google может даже выполнять некоторые домашние дела, даже не требуя подключения к Интернету. Но использование искусственного интеллекта на устройстве в локальном браузере — непростой процесс. Но что еще более важно, вам нужно выбрать браузер, который позволит запускать модель ИИ локально на устройстве. Судя по отзывам сообщества, самым модным локальным браузером с искусственным интеллектом является Puma.

Этот браузер, ориентированный на конфиденциальность, доступный на Android и iOS, позволяет пользователям отойти от оплота Google и выбирать между Ecosia и DuckDuckGo в качестве поисковых систем. Что еще более важно, он позволяет запускать локальные экземпляры моделей искусственного интеллекта серий Llama 3.2, Ministral, Gemma и Qwen полностью на устройстве. Таким образом, будь то общий запрос знаний или рутинная работа, такая как изменение стиля и обобщение, ни одно взаимодействие никогда не покидает ваш телефон.

Установка

Когда вы впервые устанавливаете браузер Puma, в нем уже настроена и работает модель Meta с открытым исходным кодом Llama 3.2. Но если вы хотите загрузить другую модель ИИ, выполните следующие действия:

  1. На главной странице браузера нажмите значок Puma внизу.
  2. В появившемся меню ползунка нажмите на опцию «Локальный чат LLM».
  3. На странице чата нажмите кнопку с надписью «Llama 3.2 1B» в поле композитора.
  4. При нажатии на него открывается список доступных локальных моделей ИИ. После первой установки доступна только Llama 3.2 1B Instruct. Выберите опцию «Больше моделей».
  5. На следующей странице вы увидите целый список моделей, включая Google Gemma, Mistral, DeepSeek, Qwen, Microsoft Phi и другие. Нажмите кнопку «Получить», соответствующую предпочитаемой вами модели AI, и она будет загружена и установлена.

Размер большинства моделей превышает 1 ГБ, поэтому их загрузка и установка на телефон займет некоторое время. И, конечно же, чем больше вы предприимчивы, тем больше места они займут. После настройки модели ИИ вы можете вернуться к локальному чату LLM, выбрать модель по вашему выбору и начать разговор.

Теперь более важный вопрос: зачем вам локальная модель искусственного интеллекта, если вы можете просто использовать приложения ChatGPT или Gemini? Или полностью избегайте этого, вызвав Gemini в качестве помощника по умолчанию на телефонах Android или ChatGPT (через Siri и Apple Intelligence) на вашем iPhone? Что ж, конфиденциальность — очевидный ответ. Однако бывают случаи, когда у вас может не быть под рукой подключения к Интернету или вы просто включили автономный режим для сосредоточенной работы. В таких сценариях эти локальные модели ИИ пригодятся, поскольку они могут выполнять свою работу без каких-либо требований к подключению. Единственное предостережение заключается в том, что они не могут выполнять такие хитрые трюки, как локальная генерация изображений. Более того, в отличие от приложения Google AI Edge Gallery, браузер Puma не позволяет настраивать рабочую нагрузку искусственного интеллекта на процессор и графический процессор или настраивать такие аспекты, как рост дерева и температура.