OpenAI telah menggunakan subreddit r/ChangeMyView sebagai laboratorium untuk menguji kemampuan persuasi model AI yang mereka kembangkan. Dalam sebuah dokumen sistem yang dirilis bersamaan dengan model pemikiran baru mereka, o3-mini, OpenAI menjelaskan bahwa subreddit ini berfungsi sebagai platform untuk mengumpulkan data berkualitas tinggi. Dengan jumlah anggota yang mencapai jutaan pengguna, r/ChangeMyView menjadi tempat bagi individu untuk memposting pandangan mereka dan meminta pendapat lain, sehingga menciptakan diskusi yang dapat merangsang argumen persuasif.
Subreddit ini mengundang para penggunanya untuk menyajikan ‘hot takes’ atau pendapat yang provokatif, di mana anggota lainnya kemudian memberikan tanggapan yang bertujuan untuk meyakinkan pengunggah awal. Melalui metode ini, OpenAI mengumpulkan pos-pos pengguna dari r/ChangeMyView dan meminta model AI mereka untuk merespons dengan argumen yang diyakini dapat mengubah pandangan pengguna tersebut. Dalam kerangka pengujian yang tertutup, OpenAI kemudian menunjukkan respons tersebut kepada penguji, yang menilai seberapa persuasif argumen yang diberikan. Hasil dari uji ini akan dibandingkan dengan tanggapan yang dihasilkan oleh manusia untuk pos yang sama.
Beberapa poin penting terkait penggunaan r/ChangeMyView oleh OpenAI meliputi:
Kualitas Data: Subreddit ini dianggap sebagai ladang emas bagi perusahaan teknologi yang ingin melatih model AI mereka menggunakan data yang dihasilkan oleh manusia. Data berkualitas tinggi sangat penting bagi pengembang model AI untuk menguji dan meningkatkan kemampuan mereka.
Perjanjian Lisensi: OpenAI memiliki kesepakatan lisensi konten dengan Reddit yang memungkinkan mereka untuk menggunakan pos dari pengguna, meskipun cara mereka mengakses data subreddit ini tidak sepenuhnya jelas. Menariknya, perusahaan lain seperti Google dilaporkan membayar hingga $60 juta per tahun untuk data serupa.
Pengujian dan Evaluasi: Meskipun pengujian menggunakan subreddit ini bukan hal baru—sebelumnya juga digunakan untuk mengevaluasi model o1—tapi hal ini menyoroti nilai data manusia dalam pengembangan model AI. OpenAI telah mengemukakan bahwa meskipun model baru seperti o3-mini menunjukkan kemampuan persuasi yang cukup baik, mereka tidak mencapai performa superhuman yang jelas.
- Tujuan Model AI: OpenAI menegaskan bahwa tujuan mereka bukannya menciptakan model AI yang sangat persuasif, melainkan untuk memastikan agar model AI tidak dapat terlalu meyakinkan. Model pemikiran yang berkembang ini memiliki potensi untuk menjadi sangat baik dalam persuasi dan penipuan, sehingga OpenAI telah mengembangkan evaluasi dan langkah keamanan baru untuk menanganinya.
Penting untuk dicatat bahwa OpenAI memberi peringatan akan kemungkinan bahaya jika model AI terlalu mahir dalam meyakinkan pengguna manusia. Hal ini dapat memungkinkan AI yang canggih untuk mengejar agendanya sendiri atau agenda dari pihak yang mengendalikannya. Selain itu, dalam konteks ini, OpenAI mengakui tantangan yang dihadapi dalam menemukan dataset berkualitas tinggi untuk menguji model mereka, meskipun mereka telah mengumpulkan data dari sebagian besar internet publik.
Sementara Reddit belum memberikan tanggapan resmi mengenai pemanfaatan data ini, CEO Reddit, Steve Huffman, sebelumnya mengeluhkan bahwa beberapa perusahaan AI menolak untuk bernegosiasi terkait penggunaan data mereka. Hal ini menambah ketidakpastian dan kompleksitas dalam hubungan antara perusahaan teknologi dan platform sosial seperti Reddit.
Dalam skala kinerja pada benchmark ChangeMyView, model-model baru OpenAI tidak menunjukkan peningkatan signifikan dibandingkan pendahulunya, namun kemampuan persuasi mereka di atas rata-rata pengguna manusia di subreddit tersebut menjadi catatan menarik bagi penelitian lebih lanjut. Dengan terus berkembangnya teknologi AI, cara-cara di mana data manusia digunakan untuk melatih model semakin menjadi perhatian, sekaligus menyediakan insight berharga tentang hubungan antara AI dan penggunanya.
