За последние пару лет генеративный искусственный интеллект стал популярен в цифровых продуктах, которые мы продвигаем ежедневно. От почтовых клиентов до инструментов редактирования — он глубоко укоренился в широком спектре инструментов. Веб-браузеры не являются исключением. Но с внедрением искусственного интеллекта вырисовывается призрак использования конфиденциальности. Хочу ли я, чтобы мои наиболее уязвимые разговоры ChatGPT проходили через серверы OpenAI или чтобы мои файлы находились на серверах Microsoft Copilot в течение нескольких месяцев? Для большинства пользователей ответом будет решительное «нет». Но в то же время становится все труднее избегать искусственного интеллекта в браузерах, особенно с учетом предлагаемого удобства.
Именно здесь на сцену выходят локальные браузеры с искусственным интеллектом. Думайте о них как об обычном веб-браузере, но в котором помощник AI работает полностью на вашем устройстве, а не отправляет ваши запросы на облачный сервер. В целом это похоже на взаимодействие с Gemini Nano на Pixel 10 Pro, где искусственный интеллект Google может даже выполнять некоторые домашние дела, даже не требуя подключения к Интернету. Но использование искусственного интеллекта на устройстве в локальном браузере — непростой процесс. Но что еще более важно, вам нужно выбрать браузер, который позволит запускать модель ИИ локально на устройстве. Судя по отзывам сообщества, самым модным локальным браузером с искусственным интеллектом является Puma.
Этот браузер, ориентированный на конфиденциальность, доступный на Android и iOS, позволяет пользователям отойти от оплота Google и выбирать между Ecosia и DuckDuckGo в качестве поисковых систем. Что еще более важно, он позволяет запускать локальные экземпляры моделей искусственного интеллекта серий Llama 3.2, Ministral, Gemma и Qwen полностью на устройстве. Таким образом, будь то общий запрос знаний или рутинная работа, такая как изменение стиля и обобщение, ни одно взаимодействие никогда не покидает ваш телефон.
Установка
Когда вы впервые устанавливаете браузер Puma, в нем уже настроена и работает модель Meta с открытым исходным кодом Llama 3.2. Но если вы хотите загрузить другую модель ИИ, выполните следующие действия:
- На главной странице браузера нажмите значок Puma внизу.
- В появившемся меню ползунка нажмите на опцию «Локальный чат LLM».
- На странице чата нажмите кнопку с надписью «Llama 3.2 1B» в поле композитора.
- При нажатии на него открывается список доступных локальных моделей ИИ. После первой установки доступна только Llama 3.2 1B Instruct. Выберите опцию «Больше моделей».
- На следующей странице вы увидите целый список моделей, включая Google Gemma, Mistral, DeepSeek, Qwen, Microsoft Phi и другие. Нажмите кнопку «Получить», соответствующую предпочитаемой вами модели AI, и она будет загружена и установлена.
Размер большинства моделей превышает 1 ГБ, поэтому их загрузка и установка на телефон займет некоторое время. И, конечно же, чем больше вы предприимчивы, тем больше места они займут. После настройки модели ИИ вы можете вернуться к локальному чату LLM, выбрать модель по вашему выбору и начать разговор.
Теперь более важный вопрос: зачем вам локальная модель искусственного интеллекта, если вы можете просто использовать приложения ChatGPT или Gemini? Или полностью избегайте этого, вызвав Gemini в качестве помощника по умолчанию на телефонах Android или ChatGPT (через Siri и Apple Intelligence) на вашем iPhone? Что ж, конфиденциальность — очевидный ответ. Однако бывают случаи, когда у вас может не быть под рукой подключения к Интернету или вы просто включили автономный режим для сосредоточенной работы. В таких сценариях эти локальные модели ИИ пригодятся, поскольку они могут выполнять свою работу без каких-либо требований к подключению. Единственное предостережение заключается в том, что они не могут выполнять такие хитрые трюки, как локальная генерация изображений. Более того, в отличие от приложения Google AI Edge Gallery, браузер Puma не позволяет настраивать рабочую нагрузку искусственного интеллекта на процессор и графический процессор или настраивать такие аспекты, как рост дерева и температура.