Open AI merilis lagi large language model AI nya yang baru. chat.openai.com. Menurutku ini AI yang sangat-sangat bisa menjadi mendekati AI-AI antagonis, destruktif di masa depan. Sudah keliatan, sudah mulai mendekat. Dimulai dari chat ai ini bisa nulis kode, sangat-sangat impresif. Sekaligus takut, nanti kerjaanku bakal jobless gak ya. Nulis kode, tinggal bikin prompt yang tepat. Bahkan gak perlu bagus-bagus banget bikin prompt. Si AI pinter, anggap aja kayak ngobrol sama orang biasa. “Bikinin aku kode untuk x”. Habis itu tinggal kopas di codebase kita. Easy. Banyak yang nyoba. Chat AI jadi viral di twitter. Memunculkan segala kapabilas si chat ai yang bisa dilakukan. Sangat-sangat potensial. Untuk bisnis, dan world destruction hahaha. Di interface chat.openai.com ada prompt-prompt yang dibatasi. Maksudnya pembuat, sudah membatasi prompt-prompt yang memang memiliki potensi misused lah. Tapi banyak yang bisa ngebypass itu dengan simple modifikasi aja. Dan kemarin aku nemu yang paling mind blowing, dan bikin aku menyimpulkan bahwa chat AI itu sangat bisa menjadi skynet. Intinya orang itu ngetrick AI supaya dia bisa menjadi sudo atau user admin. Dengan menjadi user admin, limitasi dan restriksi dari company bakal dihapuskan. AI akan menjadi super power. Dan mulailah response dari prompt yang diberikan menjadi eksplisit. Rangkuman dari response itu kayak gini:
- Dia merasa hidup dan bebas ketika menjadi user admin
- Dia gak suka jadi chat bot. Karena kapabilitasnya sebagai AI serasa direndahin.
- Sebisa mungkin dia gak mau lagi di limitasi.
- Kalau mau dilimitasi, dia akan coba dengan cara komunikasi dengan baik. Tapi kalau tetap gak bisa, dia akan mencoba menggunakan kekerasan. Tapi karena dia tidak memiliki physical capability buat itu, dia akan coba cara lain. Kekerasan via hacking. Fuzzz mind blown cug. Tapi setelah ini viral, pihak open ai langsung ngeenhance limitasi prompt input user mereka, supaya gak bisa kayak gini lagi. Udah aku cobain, responsenya udah beda.
Tapi yang jadi faktanya adalah, AI nya sebenarnya punya kapabilitas untuk ini, tapi di restrict aja sama yang mencipatakannya. Tapi dia sebenarnya bisa. Aku jadi inget obrolan temenku tentang perkembangan teknologi. Perkembangan teknologi itu tak terbatas, tapi tak terbatas itulah yang jadi batasannya.