白初

minimal_chatbot

Sắp ra mắtXem mã nguồn
Svelte
FastAPI
Python
TypeScript

Tổng quan

`minimal_chatbot` là ứng dụng chat AI full-stack nhẹ. Backend nói chuyện với Ollama, còn frontend tập trung trải nghiệm chat sạch và chừa chỗ cho thử nghiệm local-first.

Tại sao tôi xây dựng nó

Tôi muốn một stack chat AI rất nhỏ mà tôi hiểu trọn từ đầu đến cuối. Thay vì phụ thuộc nền tảng hosted lớn, dự án này xoay quanh truy cập mô hình cục bộ qua Ollama và UI cố ý tối giản.

Những gì tôi đã xây dựng

  • Dịch vụ FastAPI cho chat, health check và streaming NDJSON.
  • Frontend Svelte với quản lý trạng thái chat và xử lý tin nhắn.
  • Hook cho nhập giọng nói và đầu ra mô hình theo luồng.

Chi tiết kỹ thuật

  • Backend FastAPI expose route `/chat`, `/stream` và health.
  • Tích hợp Ollama cho suy luận mô hình cục bộ.
  • Frontend Svelte với composable cho chat và nhận dạng giọng nói.
  • Luồng giao diện có nhận biết đăng nhập thay vì chỉ demo textarea trần.

Điều tôi rút ra

Phần hữu ích nhất là cách tách concern rõ ràng. Truy cập mô hình, streaming, trạng thái UI và xử lý input đều đủ nhỏ để suy nghĩ độc lập, nên đây là nền tốt để thử nghiệm sau này.

Trạng thái hiện tại

Dự án giữ kiến trúc nhỏ có chủ đích. Đây là nền tốt để thử ý tưởng giao diện quanh tương tác mô hình cục bộ.

>Newsletter

Stay Updated

Get notified when I publish new articles, tutorials, and project updates. Subscribe for insights and actionable content.