AI Bootcamp: LLM Finetuning & Deployment

Pada hari Jumaat, 4 Julai, 2025, Float16 bekerjasama dengan pasukan Typhoon SCB 10X menganjurkan AI Bootcamp: LLM Finetuning & Deployment di DistrictX, Bangunan FYI. Acara ini menandakan pencapaian penting dalam mempromosikan pembangunan teknologi AI di Thailand. Bootcamp menerima minat yang luar biasa dan berjaya diselesaikan melebihi jangkaan.

Gambaran Keseluruhan Acara

AI Bootcamp adalah program latihan hands-on sehari penuh yang direka untuk membawa peserta dari pemahaman asas kepada aplikasi praktikal Model Bahasa Besar (LLM) melalui proses finetuning dan deployment menggunakan alat dan GPU.

Sorotan

🔧 Sesi Pagi: Cara Finetune Typhoon Open-Source LLM

Penceramah: Surapon Nonesung, Saintis Penyelidikan di SCB10x

👉 Intipati Utama daripada Pasukan Typhoon: 5 Tips untuk Fine-Tuning Mendapatkan Model Berprestasi Tinggi

Habiskan lebih 80% masa anda untuk penyediaan data (kerana kualiti data adalah asas model yang baik)
Buat sekurang-kurangnya 2 dataset penilaian, dengan sekurang-kurangnya 1 dataset mengandungi data yang tidak pernah dilatih sebelum ini
Gunakan train set dan eval set semasa Fine-Tuning untuk memeriksa overfitting
Nilai model sebelum dan selepas Fine-Tuning untuk melihat sama ada model benar-benar bertambah baik
Semak dan laraskan Chat Template yang digunakan, seperti system prompt, format arahan, dsb. Template yang baik membantu model menjawab lebih tepat dan berprestasi jauh lebih baik

🚀 Sesi Petang: Cara Deploy Model Typhoon Finetuned Anda di Float16 ServerlessGPU

Penceramah: Matichon Maneegard, Pengasas di Float16

👉 Intipati Utama daripada Pasukan Float16: 3 Teknik untuk Meningkatkan LLM untuk Penggunaan Pembangunan Perisian Sebenar

Pilih format fail LLM yang sesuai untuk tujuan anda:
- .safetensors → Untuk HuggingFace, berasingan model-weight, tokenizer, fail seni bina
- .gguf → Untuk llama-cpp, Ollama, LM-studio - mudah digunakan
- Pilih format berdasarkan tugas:
  - safetensors untuk fine-tuning
  - gguf untuk inference
Laksanakan Keserasian OpenAI API:
- Jadikan kod sedia ada berfungsi tanpa menulis semula
- Tukar endpoint daripada OpenAI untuk menggunakan model kita sendiri
- Jimat kos dan mempunyai kawalan penuh
Structured Output (Grammar) meningkatkan kualiti respons:
- Gunakan xgrammar, outlines, guidance untuk mengawal format respons
- Mod JSON untuk function calling yang tepat
- Tentukan peraturan tatabahasa untuk SQL, pemilihan pilihan, atau format khusus

Respons Cemerlang

Daripada penilaian selepas acara, kami menerima maklum balas lebih baik daripada jangkaan:

💬 Beberapa Komen Mengagumkan

"Saya kagum dengan aktiviti keseluruhan. Ia hebat untuk belajar daripada orang yang benar-benar bekerja dalam bidang ini." - Peserta

"Pasukan SCB10X dan Float16 sangat prihatin dalam memberikan pengetahuan. Pengurusan sangat cemerlang. Matichon daripada Float16 menganjurkan format Lecture & Workshop dengan sangat baik." - Peserta

"Saya benar-benar menikmati acara ini. Terutamanya betapa lancar dan tersusun acara ini." - Peserta

Apa Yang Diterima Peserta

🎯 Pengetahuan Praktikal

Pengalaman hands-on dalam fine-tuning dan deploy LLM
Penggunaan model open-source Typhoon
Teknik untuk meningkatkan LLM untuk kerja Pembangunan Perisian

💰 Faedah

100% percuma
Kredit GPU daripada Float16 bernilai 1,000 THB
Sijil digital
Makan tengah hari percuma

🤝 Rangkaian

Bertemu dan bertukar pengalaman dengan:

Profesor, pelajar, penyelidik, dan Saintis Data
Jurutera dan Pembangun
Pengasas dan usahawan startup

Kami berterima kasih kepada semua yang mengambil bahagian dalam acara ini, termasuk:

Pasukan SCB 10X dan NVIDIA untuk sokongan penuh mereka
DistrictX untuk menyediakan tempat
Semua peserta yang memberikan maklum balas dan idea hebat

Float16 komited untuk menjadi sebahagian daripada mendorong Thailand untuk menjadi pemimpin AI serantau. Acara ini hanyalah permulaan membina komuniti pengamal AI yang kuat dan mampan.

#AIBootcamp #LLMFinetuning #Float16 #SCB10X #NVIDIA #MachineLearning #AIThailand #Typhoon