14.1 · AI Model Requirements
| Aspek | Requirement |
|---|---|
| Tipe | Large Language Model (LLM) - conversation-capable |
| Bahasa | English (utama) + Indonesian (untuk instruksi/feedback) |
| Kemampuan | Multi-turn conversation, instruction following, evaluation, persona consistency |
| Latency | < 3 detik per response (termasuk streaming) |
| Context window | Minimal 8K tokens (preferred 16K+) |
| Streaming | Support streaming response (untuk UX yang natural) |
| Cost | Terjangkau per sesi (target: < $0.05 per sesi latihan) |
Candidates
- OpenAI GPT-4o / GPT-4o-mini
- Google Gemini
- Anthropic Claude
- Open-source models (Llama, Mistral) - untuk cost optimization
Strategi
- Gunakan model yang lebih murah untuk interaksi biasa (percakapan, feedback ringan)
- Gunakan model yang lebih powerful untuk evaluasi mendalam dan assessment
- Abstraksi AI layer agar model bisa diganti tanpa merombak aplikasi