Celik AI Dot My

Bagi peminat kecerdasan buatan, menjalankan model bahasa raya atau LLM secara terus pada komputer sendiri kini menjadi semakin mudah.  Antara platform sumber terbuka yang menerajui kemudahan ini ialah Ollama, yang mula dibangunkan oleh Jeffrey Morgan dan Michael Chiang pada tahun 2023 di bawah lesen MIT. Sejak dilancarkan pada 8 Julai 2023, Ollama membolehkan pengguna memuat turun, menjalankan dan mengurus pelbagai model popular seperti Llama, Mistral, Gemma, Qwen serta DeepSeek pada mesin tempatan.  Perisian yang ditulis dalam bahasa Go, C dan TypeScript ini boleh digunakan pada sistem macOS, Linux serta Windows.  Melalui sokongan enjin llama.cpp, ia mampu mengendalikan model berkuantisasi yang menjimatkan memori serta memanfaatkan kad grafik untuk mempercepat pengiraan. Untuk kemudahan pengguna, Ollama menawarkan pelbagai kaedah kawalan termasuk antara muka baris arahan, aplikasi grafik, dan API REST yang biasanya beroperasi melalui port 11434.  Pengatur cara juga ...

Penggunaan aplikasi Ollama kini digalakkan bagi membolehkan orang ramai memanfaatkan kecerdasan buatan (AI) secara lebih meluas. Model AI Qwen 3.5 dengan 27B terbukti mempunyai keupayaan bahasa Melayu yang baik dalam membantu penghasilan teks rasmi seperti sidang media. Kelebihan utama penggunaan Ollama dan Qwen ialah data pengguna kekal selamat kerana ia beroperasi sepenuhnya secara luar talian tanpa perlu menghantar maklumat ke pelayan luar. Teknologi ini amat berguna bagi agensi kerajaan untuk memproses dokumen sulit dengan selamat tanpa risiko kebocoran maklumat kepada pihak ketiga. Oleh itu, penggunaan perkhidmatan AI dalam talian seperti ChatGPT atau Gemini tidak digalakkan bagi urusan rasmi kerajaan yang melibatkan dokumen sensitif kerana risiko pemprosesan data oleh pihak penyedia perkhidmatan.