Ollama اولین پلتفرم محلی است که مدل های زبان بزرگ (LLM) را مستقیماً روی دسکتاپ شما می آورد. نرمافزار Ollama یکی از ابزارهای نوین و پیشرفته در حوزهی مدیریت و اجرای مدلهای زبان بزرگ (LLMs) بهصورت محلی (on-device) است که برای توسعهدهندگان، محققان هوش مصنوعی و علاقهمندان به پردازش زبان طبیعی طراحی شده است. این نرمافزار به شما اجازه میدهد تا بدون نیاز به اتصال مداوم به سرورهای ابری، مدلهای هوش مصنوعی را بهصورت لوکال اجرا کرده و با آنها تعامل داشته باشید.
اولاما در واقع یک فریمورک و نرمافزار متنباز است که بهطور خاص برای سادهسازی اجرای مدلهای زبانی مانند LLaMA، Mistral، Gemma، Code LLaMA و سایر مدلهای سبکوزن طراحی شده است. این نرمافزار بر روی سیستمعاملهای مختلف (از جمله macOS و Linux) قابل اجراست و از پردازندههای CPU و GPU برای اجرای بهینهی مدلها بهره میبرد.
