GitHub - Mobile-Artificial-Intelligence/maid: Maid is a cross-platform Flutter app for interfacing with GGUF / llama.cpp models locally, and with Ollama and OpenAI models remotely.
Extracto
Maid is a cross-platform Flutter app for interfacing with GGUF / llama.cpp models locally, and with Ollama and OpenAI models remotely. - GitHub - Mobile-Artificial-Intelligence/maid: Maid is a cro...
Resumen
Resumen Principal
Maid (Mobile Artificial Intelligence Distribution) es una aplicación multiplataforma, gratuita y de código abierto que facilita una interfaz unificada para interactuar con una amplia gama de modelos de inteligencia artificial. Su diseño versátil le permite conectar con modelos llama.cpp ejecutados localmente, ofreciendo un control granular y privacidad, así como con servicios de IA remotos de proveedores líderes como Ollama, Mistral, Google Gemini y OpenAI. Esta dualidad de acceso posiciona a Maid como una herramienta fundamental para desarrolladores y entusiastas que buscan experimentar con diversas capacidades de IA sin estar atados a una única plataforma o proveedor. La integración de tarjetas de personaje de sillytavern enriquece la experiencia del usuario, permitiendo interacciones personalizadas y engaging con sus avatares de IA preferidos. Además, la funcionalidad de descarga de modelos directamente desde Huggingface, a través de una lista curada, simplifica significativamente el acceso a nuevos modelos, consolidando a Maid como un hub integral para la experimentación con IA. Su amplia compatibilidad y enfoque en el acceso abierto democratizan el uso de la inteligencia artificial.
Elementos Clave
- Compatibilidad Integral con Modelos de IA: Maid ofrece una robusta capacidad para interactuar con modelos
llama.cppde forma local, permitiendo la ejecución de IA directamente en el hardware del usuario. Adicionalmente, se integra sin problemas con servicios remotos de IA de vanguardia como Ollama, Mistral, Google Gemini y OpenAI, proporcionando una flexibilidad excepcional para acceder a una vasta colección de modelos de lenguaje, incluyendocalypso 3b,phi 3,mistral 7b,mixtral 8x7b, yllama 2 7B-Chat, entre otros. - Plataforma Unificada y Multi-dispositivo: Diseñada para una accesibilidad sin precedentes, Maid opera de manera fluida en múltiples sistemas operativos y dispositivos. Su soporte incluye Windows, MacOS, Linux y Android, asegurando que los usuarios puedan mantener una experiencia consistente y poderosa de interacción con IA, independientemente de su ecosistema tecnológico preferido, lo que subraya su vocación de ser una herramienta omnipresente.
- Funcionalidades de Interacción Avanzadas: La aplicación mejora significativamente la experiencia del usuario al integrar el soporte para tarjetas de personaje de
sillytavern, lo que permite interacciones de rol detalladas y personalizadas con modelos de IA. Complementariamente, Maid facilita la descarga directa de modelos a través de una lista curada desde Huggingface, eliminando barreras de acceso y simplificando el proceso de descubrimiento y utilización de nuevas capacidades de IA. - Naturaleza de Código Abierto y Licenciamiento Transparente: Maid se distribuye bajo la Licencia MIT, una licencia permisiva que fomenta la colaboración y la reutilización. Este enfoque de código abierto no solo garantiza transparencia y control por parte de la comunidad, sino que también subraya su independencia, declarando explícitamente no tener afiliación con ninguna de las grandes empresas proveedoras de modelos de IA, como Huggingface, Meta, MistralAI, OpenAI, Google o Microsoft.
Análisis e Implicaciones
Maid representa una herramienta estratégica para la democratización de la inteligencia artificial, al proporcionar una interfaz unificada que abstrae la complejidad de interactuar con
Contenido
Maid - Mobile Artificial Intelligence Distribution
Maid is a cross-platform free and an open-source application for interfacing with llama.cpp models locally, and remotely with Ollama, Mistral, Google Gemini and OpenAI models remotely. Maid supports sillytavern character cards to allow you to interact with all your favorite characters. Maid supports downloading a curated list of Models in-app directly from huggingface.
Cloning
To clone the repository, use the following command:
git clone https://github.com/Mobile-Artificial-Intelligence/maid.git
Maids repository has flutter linked as a submodule. This is needed for reproducible fdroid builds. However, for development you may want to use a local install of flutter. Remove the flutter submodule by running the git command
git submodule deinit -f packages/flutter
Installing Build Dependencies
To install the dependencies on fedora based systems, use the following command:
sudo dnf install -y cmake ninja-build pkg-config gtk3-devel vulkan-devel
To install the bdependencies on debian based systems, use the following command:
sudo apt-get install -y cmake ninja-build pkg-config libgtk-3-dev libvulkan-dev
Platform Support
Windows, MacOS, Linux, Android. Releases page. IOS Releases not available at this time.
Help Wanted
- Write code comments
- Documentation
- Testing and Building on IOS
- Spreading the word
Special Thanks and Related Projects
Star History
Contributors
Testing
MacOS version tested on a Android version tested on a Oneplus 10 Pro 11gb phone. Also tested on Fedora Linux, Windows 11. Tested with calypso 3b, orcamini 3b, minyllama 1.1b, phi 3, mistral 7b, mixtral 8x7b, llama 2 7B-Chat, llama 7B and many more.
Disclaimer
Maid is distributed under the MIT licence and is provided without warranty of any kind, express or implied. Maid is not affiliated with Huggingface, Meta (Facebook), MistralAi, OpenAI, Google, Microsoft or any other company providing a model compatible with this application.
License
This project is licensed under the MIT License.
Fuente: GitHub