Мобильный клиент LM Studio: мультичат и мгновенное переключение моделей

В свежем обновлении мобильного клиента LM Studio появились две ключевые функции, которые кардинально меняют взаимодействие с локальными языковыми моделями на смартфоне. Теперь пользователи могут вести несколько диалогов одновременно и переключать модели прямо в процессе разговора, не прерывая рабочи

Мультичат: несколько диалогов в одном приложении

Раньше мобильный клиент поддерживал только один чат, что было серьезным ограничением для тех, кто работает с несколькими проектами одновременно. Теперь реализована полноценная поддержка мультичата: можно создавать неограниченное количество диалогов, переключаться между ними и вести несколько независимых бесед параллельно. Это особенно полезно для разработчиков, которые тестируют разные модели на одной задаче, или для пользователей, ведущих несколько проектов одновременно.

Интерфейс стал более интуитивным: список чатов доступен через боковое меню, а создание нового диалога занимает всего пару тапов. Переключение между чатами происходит мгновенно, без потери контекста. В каждом чате сохраняется история сообщений, что позволяет возвращаться к предыдущим обсуждениям в любой момент.

Как создать новый чат в мобильном клиенте LM Studio?

Для создания нового чата достаточно открыть боковое меню, где отображается список всех диалогов, и нажать кнопку «Новый чат». Приложение мгновенно создаст пустой диалог, готовый к работе. Вы можете дать каждому чату уникальное имя, чтобы легко ориентироваться при большом количестве параллельных бесед. Это особенно удобно, когда вы ведете несколько проектов или исследуете разные темы одновременно.

Выбор модели на лету

Второе ключественное изменение — возможность менять модель прямо во время диалога. Раньше для смены модели требовалось выйти в настройки и перезапустить чат, что прерывало рабочий процесс. Теперь переключатель моделей встроен прямо в интерфейс чата: достаточно открыть выпадающий список и выбрать другую модель из числа загруженных в LM Studio.

Эта функция особенно важна при сравнении результатов разных моделей на одном и том же запросе. Можно быстро переключиться с Llama 3 на Mistral или Qwen и сразу увидеть, какая модель дает лучший ответ. При этом контекст диалога сохраняется, хотя стоит учитывать, что разные модели могут по-разному интерпретировать предыдущие сообщения.

Можно ли менять модель в процессе разговора?

Да, в обновленной версии мобильного клиента это стало возможным. Переключатель моделей находится прямо в интерфейсе чата, обычно в верхней панели или в меню быстрых действий. Вы можете в любой момент открыть список доступных моделей и выбрать другую. Текущий диалог не прерывается, а контекст передается новой модели. Однако имейте в виду, что ответы могут отличаться, так как каждая модель имеет свои особенности.

Предыстория и контекст

Первая версия мобильного клиента для LM Studio вышла несколько месяцев назад и сразу привлекла внимание сообщества. LM Studio — это популярная десктопная программа для запуска локальных языковых моделей, которая позволяет использовать LLM без облачных сервисов. Мобильный клиент расширяет ее возможности, позволяя работать с моделями на смартфоне.

Разработчик, публикующийся на Habr, получил множество отзывов от пользователей, которые просили добавить мультичат и возможность смены модели без перезапуска. Эти пожелания легли в основу обновления. Автор отмечает, что цель — сделать мобильный опыт максимально приближенным к десктопному, где такие возможности уже давно доступны.

Как это работает?

Мобильный клиент подключается к LM Studio через локальную сеть, используя API сервера, который запущен на компьютере. Это означает, что все вычисления происходят на десктопе, а смартфон выступает в роли удаленного интерфейса. Такой подход позволяет использовать мощные модели, которые не могут работать непосредственно на мобильном устройстве из-за ограничений по памяти и процессору.

Для работы требуется, чтобы компьютер и смартфон находились в одной сети. После запуска LM Studio на компьютере и активации сервера в настройках, мобильное приложение автоматически находит его и устанавливает соединение. Поддерживаются все основные модели, которые можно загрузить в LM Studio, включая популярные открытые LLM.

Технические детали обновления

Обновление включает не только новые функции, но и ряд улучшений под капотом. Был оптимизирован сетевой протокол, что снизило задержки при передаче сообщений. Улучшена обработка ошибок: при обрыве соединения приложение автоматически пытается переподключиться, сохраняя состояние чатов.

Интерфейс был переработан с учетом обратной связи пользователей: увеличена область ввода текста, добавлены быстрые действия для переключения моделей и чатов. Также исправлены баги, связанные с отображением длинных сообщений и некорректной работой клавиатуры на некоторых устройствах.

Кого затронет и как

Обновление будет полезно широкому кругу пользователей. Разработчики, которые экспериментируют с разными LLM, теперь могут быстро сравнивать результаты на мобильном устройстве, не отвлекаясь на десктоп. Для исследователей и студентов, работающих с локальными моделями, мультичат открывает возможность вести несколько исследовательских направлений одновременно.

Пользователи из России и СНГ также активно используют LM Studio, особенно учитывая вопросы доступности облачных сервисов. Мобильный клиент позволяет работать с локальными моделями в любом месте, где есть Wi-Fi, что особенно актуально для тех, кто ценит конфиденциальность и не хочет отправлять данные в облако.

Что будет дальше

Разработчик уже анонсировал планы по дальнейшему развитию приложения. В планах — поддержка голосового ввода, экспорт истории чатов и синхронизация между устройствами. Также рассматривается возможность запуска моделей непосредственно на мобильном устройстве для небольших LLM, что сделает клиент полностью автономным.

Пользователи могут ожидать регулярных обновлений, так как автор активно реагирует на обратную связь. Судя по темпам развития, мобильный клиент может стать одним из основных способов взаимодействия с локальными моделями для многих пользователей.

Итог

Мультичат и выбор модели на лету — это важный шаг в развитии мобильного клиента LM Studio. Эти функции делают работу с локальными LLM на смартфоне по-настоящему удобной и гибкой. Если вы используете LM Studio, обязательно попробуйте обновление — оно значительно расширяет возможности вашего рабочего процесса.