ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম
jan
janhq/jan
A local AI chat application for running models on a personal computer.
★ 44.3K⑂ 3KTypeScript
ToolAI.io · GitHub চ্যানেল
GitHub-এ নতুন AI প্রজেক্ট
GitHub-এ সম্প্রতি যোগ করা ওপেন-সোর্স AI প্রকল্প আবিষ্কার করুন—রিপোজিটরির তথ্য, সেটআপ নোট, লাইসেন্স ও সংশ্লিষ্ট রিসোর্সসহ।
পাবলিক রিপোজিটরির তথ্য
প্রকল্পের সূচি
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম
ray
ray-project/ray
A distributed computing runtime for machine learning training, tuning and model serving.
★ 43.7K⑂ 8KPython
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম
LocalAI
mudler/LocalAI
A local inference engine for self-hosting models and AI services.
★ 48.9K⑂ 4.4KGo
কম্পিউটার ভিশন
yolov5
ultralytics/yolov5
A PyTorch-based object detection project with training, inference and export workflows.
★ 58K⑂ 17.5KPython
কম্পিউটার ভিশন
ultralytics
ultralytics/ultralytics
Training and inference tools for object detection, segmentation and pose estimation models.
★ 61.3K⑂ 11.7KPython
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম
ollama
ollama/ollama
A tool for running and managing large language models locally.
★ 180.2K⑂ 17.7KGo
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম
checkpoint-engine
MoonshotAI/checkpoint-engine
Checkpoint-engine is a simple middleware to update model weights in LLM inference engines
★ 982⑂ 100Python
রোবোটিক্স ও এজ AI
edgeai-for-beginners
microsoft/edgeai-for-beginners
This course is designed to guide beginners through the exciting world of Edge AI, covering fundamental concepts, popular models, inference techniques, device-specific applications, model optimization, and the development of intelligent Edge AI agents.
★ 1.6K⑂ 362Jupyter Notebook
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম
Paddle-Lite
PaddlePaddle/Paddle-Lite
PaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎）
★ 7.3K⑂ 1.6KC++
কম্পিউটার ভিশন
sam2
facebookresearch/sam2
The repository provides code for running inference with the Meta Segment Anything Model 2 (SAM 2), links for downloading the trained model checkpoints, and example notebooks that show how to use the model.
★ 19.6K⑂ 2.5KJupyter Notebook
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম
TensorRT
NVIDIA/TensorRT
NVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of TensorRT.
★ 13.2K⑂ 2.4KC++
ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম
Model-Optimizer
NVIDIA/Model-Optimizer
A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.
★ 3.3K⑂ 513Python
পৃষ্ঠা 1 / 4 · 41টি প্রজেক্ট