Absortio

Email → Summary → Bookmark → Email

GitHub - Mobile-Artificial-Intelligence/maid: Maid is a cross-platform Flutter app for interfacing with GGUF / llama.cpp models locally, and with Ollama and OpenAI models remotely.

Extracto

Maid is a cross-platform Flutter app for interfacing with GGUF / llama.cpp models locally, and with Ollama and OpenAI models remotely. - GitHub - Mobile-Artificial-Intelligence/maid: Maid is a cro...

Resumen

Resumen Principal

Maid (Mobile Artificial Intelligence Distribution) es una aplicación multiplataforma, gratuita y de código abierto que facilita una interfaz unificada para interactuar con una amplia gama de modelos de inteligencia artificial. Su diseño versátil le permite conectar con modelos llama.cpp ejecutados localmente, ofreciendo un control granular y privacidad, así como con servicios de IA remotos de proveedores líderes como Ollama, Mistral, Google Gemini y OpenAI. Esta dualidad de acceso posiciona a Maid como una herramienta fundamental para desarrolladores y entusiastas que buscan experimentar con diversas capacidades de IA sin estar atados a una única plataforma o proveedor. La integración de tarjetas de personaje de sillytavern enriquece la experiencia del usuario, permitiendo interacciones personalizadas y engaging con sus avatares de IA preferidos. Además, la funcionalidad de descarga de modelos directamente desde Huggingface, a través de una lista curada, simplifica significativamente el acceso a nuevos modelos, consolidando a Maid como un hub integral para la experimentación con IA. Su amplia compatibilidad y enfoque en el acceso abierto democratizan el uso de la inteligencia artificial.

Elementos Clave

  • Compatibilidad Integral con Modelos de IA: Maid ofrece una robusta capacidad para interactuar con modelos llama.cpp de forma local, permitiendo la ejecución de IA directamente en el hardware del usuario. Adicionalmente, se integra sin problemas con servicios remotos de IA de vanguardia como Ollama, Mistral, Google Gemini y OpenAI, proporcionando una flexibilidad excepcional para acceder a una vasta colección de modelos de lenguaje, incluyendo calypso 3b, phi 3, mistral 7b, mixtral 8x7b, y llama 2 7B-Chat, entre otros.
  • Plataforma Unificada y Multi-dispositivo: Diseñada para una accesibilidad sin precedentes, Maid opera de manera fluida en múltiples sistemas operativos y dispositivos. Su soporte incluye Windows, MacOS, Linux y Android, asegurando que los usuarios puedan mantener una experiencia consistente y poderosa de interacción con IA, independientemente de su ecosistema tecnológico preferido, lo que subraya su vocación de ser una herramienta omnipresente.
  • Funcionalidades de Interacción Avanzadas: La aplicación mejora significativamente la experiencia del usuario al integrar el soporte para tarjetas de personaje de sillytavern, lo que permite interacciones de rol detalladas y personalizadas con modelos de IA. Complementariamente, Maid facilita la descarga directa de modelos a través de una lista curada desde Huggingface, eliminando barreras de acceso y simplificando el proceso de descubrimiento y utilización de nuevas capacidades de IA.
  • Naturaleza de Código Abierto y Licenciamiento Transparente: Maid se distribuye bajo la Licencia MIT, una licencia permisiva que fomenta la colaboración y la reutilización. Este enfoque de código abierto no solo garantiza transparencia y control por parte de la comunidad, sino que también subraya su independencia, declarando explícitamente no tener afiliación con ninguna de las grandes empresas proveedoras de modelos de IA, como Huggingface, Meta, MistralAI, OpenAI, Google o Microsoft.

Análisis e Implicaciones

Maid representa una herramienta estratégica para la democratización de la inteligencia artificial, al proporcionar una interfaz unificada que abstrae la complejidad de interactuar con

Contenido

logo

Maid - Mobile Artificial Intelligence Distribution

Build Android Build iOS Build Linux Build MacOS Build Windows Build Web Release

Get it on F-Droid Get it on OpenAPK Get it on Android Freeware Get it on GitHub Get it on Google Play

Maid is a cross-platform free and an open-source application for interfacing with llama.cpp models locally, and remotely with Ollama, Mistral, Google Gemini and OpenAI models remotely. Maid supports sillytavern character cards to allow you to interact with all your favorite characters. Maid supports downloading a curated list of Models in-app directly from huggingface.

Cloning

To clone the repository, use the following command:

git clone https://github.com/Mobile-Artificial-Intelligence/maid.git

Maids repository has flutter linked as a submodule. This is needed for reproducible fdroid builds. However, for development you may want to use a local install of flutter. Remove the flutter submodule by running the git command

git submodule deinit -f packages/flutter

Installing Build Dependencies

To install the dependencies on fedora based systems, use the following command:

sudo dnf install -y cmake ninja-build pkg-config gtk3-devel vulkan-devel

To install the bdependencies on debian based systems, use the following command:

sudo apt-get install -y cmake ninja-build pkg-config libgtk-3-dev libvulkan-dev

Platform Support

Windows, MacOS, Linux, Android. Releases page. IOS Releases not available at this time.

Help Wanted

  • Write code comments
  • Documentation
  • Testing and Building on IOS
  • Spreading the word

Special Thanks and Related Projects

Star History

Star History Chart

Contributors

Testing

MacOS version tested on a Android version tested on a Oneplus 10 Pro 11gb phone. Also tested on Fedora Linux, Windows 11. Tested with calypso 3b, orcamini 3b, minyllama 1.1b, phi 3, mistral 7b, mixtral 8x7b, llama 2 7B-Chat, llama 7B and many more.

Disclaimer

Maid is distributed under the MIT licence and is provided without warranty of any kind, express or implied. Maid is not affiliated with Huggingface, Meta (Facebook), MistralAi, OpenAI, Google, Microsoft or any other company providing a model compatible with this application.

License

This project is licensed under the MIT License.

Fuente: GitHub