Potensi Model AI Sumber Terbuka Lokal

Saya akui: Saya merasa tidak nyaman mencampurkan perangkat lunak sumber terbuka dengan platform berpemilik. Tidak ada alasan teknis atas keragu-raguan saya. Kami melakukannya setiap saat dengan alat seperti Google Analytics atau dengan menghubungkan formulir ke penyedia milis kami. Namun gagasan ini nampaknya tidak masuk akal bagi para penganjur web terbuka.

Jadi meskipun menghubungkan, katakanlah, WordPress ke model AI seperti ChatGPT, Gemini, atau Claude akan berfungsi, ada juga kekhawatiran. Apa yang dapat diakses oleh model ini? Bagaimana mereka akan menggunakan data situs web saya? Apakah kebocoran keamanan dapat membahayakan situs saya? Dan berapa biayanya?

Ada juga pemikiran bahwa model ini mungkin berlebihan untuk apa yang saya butuhkan. Jika saya hanya ingin AI membantu saya mengubah pengaturan atau menganalisis SEO, apakah saya benar-benar menginginkan keseluruhan yang ditawarkan ChatGPT? Tampaknya agak boros.

Itu sebabnya saya bersemangat dengan potensi model AI sumber terbuka – khususnya yang dapat Anda instal secara lokal. Aplikasi semacam itu bisa menjadi solusi terhadap masalah privasi dan keamanan. Mereka juga mungkin lebih efisien dibandingkan memonopoli listrik model perusahaan.

Mari luangkan waktu sejenak untuk bermimpi tentang kemungkinan manfaat bagi agensi, pekerja lepas, dan pemilik situs web. Saya bukan seorang insinyur perangkat lunak, jadi saya tidak bisa mengklaim mengetahui semua persyaratan teknis. Jadi, anggap ini sebagai daftar keinginan. Meski begitu, masih perlu ditelusuri.

Cara Lebih Murah Untuk Berintegrasi Dengan AI

Bukan rahasia lagi bahwa integrasi AI yang serius memerlukan biaya. Kami membayar pemain besar untuk mengakses API mereka melalui kredit atau token. Semakin sering Anda menggunakan AI, semakin banyak Anda membayar. Ini mungkin sepadan dengan biayanya dalam beberapa situasi.

Namun seperti sistem penetapan harga berbasis penggunaan lainnya, segala sesuatunya bisa menjadi tidak terkendali. Misalnya, apa jadinya jika Anda lupa menetapkan batas pengeluaran? Seorang pengirim spam dapat membanjiri chatbot Anda dengan permintaan, sehingga menyebabkan tagihan yang tidak pantas di akhir bulan. Lonjakan lalu lintas juga dapat menyebabkan kehabisan token dalam waktu singkat.

Model sumber terbuka yang gratis dapat memberikan kepastian biaya yang lebih besar. Memang benar, banyak hal bergantung pada ukuran aplikasi dan penggunaan sumber daya. Namun cara yang tepat dapat mempermudah memprediksi pengeluaran AI Anda. Ini mungkin masalah meningkatkan hosting web Anda.

Sumber terbuka dapat memberikan manfaat bagi AI seperti yang dilakukan WordPress untuk sistem manajemen konten (CMS). Bayangkan menjalankan instance AI kapan pun Anda mau. Host bahkan mungkin mengaktifkan instalasi sekali klik.

Yang terbaik dari semuanya, skenario ini akan membantu kita menghindari kenaikan harga secara berkala. Itu adalah kunci bagi mereka yang bekerja dengan anggaran terbatas.

Model AI lokal bisa menjadi pilihan yang lebih hemat biaya

Model AI yang Dilatih Sesuai Kebutuhan Anda

Aplikasi AI besar dilatih pada data dalam jumlah besar. Ini seperti menelan seluruh internet. Anda mungkin merasa sedikit kembung setelahnya.

Model bahasa besar (LLM) ini bagus untuk banyak kegunaan. Ini dapat membantu anak Anda mengerjakan PR matematika, membantu Anda menulis proposal, atau menghasilkan gambar yang luar biasa. Sangat keren! Dan jika Anda ingin situs web Anda melakukan semua hal ini, Anda memiliki lebih banyak kekuatan.

Namun, saya rasa itu melebihi apa yang dibutuhkan kebanyakan orang. Mungkin Anda ingin model dilatih hanya berdasarkan dokumentasi produk Anda sehingga pengguna dapat mengajukan pertanyaan. Atau Anda ingin menerjemahkan konten Anda ke bahasa lain. Model sumber terbuka yang lebih kecil mungkin lebih cocok untuk niche Anda.

Ini juga akan menyelesaikan masalah pengguna menipu AI dalam melakukan hal-hal yang tidak diinginkan. Model yang tidak memiliki kemampuan seperti itu mungkin merupakan pilihan yang lebih aman.

Sekali lagi, hal ini juga berdampak pada kinerja yang lebih baik dan penggunaan sumber daya yang lebih rendah. Harapannya adalah adanya aplikasi AI yang tidak melakukan semua hal; sebaliknya, ini berfokus pada hal-hal yang Anda butuhkan.

Model AI yang dilatih hanya pada apa yang Anda butuhkan bisa lebih aman dan efisien

Sumber daya

Orang-orang pintar sudah mengerjakan berbagai model AI sumber terbuka. Wajar jika dikatakan belum ada yang menyalip Claude atau ChatGPT. Tapi mungkin mereka tidak perlu melakukannya. Bagaimanapun, harapan saya adalah model yang lebih ramping dan fokus.

Kami masih dalam tahap awal, namun beberapa opsi menarik telah muncul. Oleh karena itu, berikut beberapa sumber daya untuk membantu Anda menemukan dan bereksperimen dengan model terkini:

Model dan varian baru terus dirilis. Tautan di atas akan membantu Anda melacak apa yang baru dan menarik.

Apakah Open Source adalah Jalan Menuju AI yang Lebih Baik?

Bukan rahasia lagi bahwa ada masalah privasi dan keamanan dengan AI, belum lagi ketakutan bahwa teknologi ini akan menggantikan manusia dalam skala besar. Meskipun masih tergolong rendah, model sumber terbuka bisa menjadi secercah harapan.

Gagasan tentang kepemilikan data sangatlah menarik, begitu pula AI yang berfokus pada tugas-tugas tertentu. Jika dilakukan dengan benar, model sumber terbuka dapat menjadikan AI lebih personal dan tidak terlalu menakutkan. Ini adalah tujuan yang perlu ditelusuri.

Waktu akan menentukan apakah satu atau lebih model akan berhasil. Sementara itu, saya rasa kami berhutang pada diri kami sendiri untuk menguji dan memberikan masukan. Bersama-sama, kita dapat mendorong AI yang bermanfaat bagi semua orang. Itulah semangat sumber terbuka!



Atas

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top