Pendapat
Buka pintu ruang pod, Kongres
Kecerdasan buatan bukan lagi sekedar alat; Anda menjadi kolaborator. Dengan munculnya model penalaran dan agen AI yang beroperasi secara mandiri, kita kini memasuki era penelitian dan pengembangan otomatis, di mana model AI tidak hanya merespons pertanyaan pengguna, namun semakin menambah dan, dalam beberapa kasus, menggantikan tugas yang dilakukan oleh staf teknis di perusahaan AI terkemuka.
Pergeseran ini mungkin merupakan perkembangan teknologi paling signifikan sejak Internet. Namun tidak seperti gelombang teknologi sebelumnya, sistem yang kita ciptakan sekarang mulai belajar lebih cepat daripada yang bisa kita atur, adaptasi, atau bahkan pahami sepenuhnya.
Ajukan pertanyaan kepada model AI hari ini dan Anda akan menerima jawaban yang dikumpulkan dari triliunan titik data dalam hitungan detik. Tanyakan satu bulan dari sekarang dan Anda mungkin akan membicarakan versi terbaru dari model yang telah dimodifikasi sebagian dengan penelitian dan pengembangan yang dilakukan oleh model aslinya. Hal ini tidak lagi bersifat teoretis – hal ini sudah terjadi di pinggiran dan semakin cepat.
Dampaknya terhadap keamanan nasional, daya saing ekonomi, dan masyarakat sipil AS bisa sangat besar. Jika model-model ini dapat belajar dari kesalahan mereka, beradaptasi secara mandiri, dan pada akhirnya merancang dan melatih penerus mereka sendiri, maka siapa yang mengendalikan proses ini menjadi penting. Cukup banyak.
Itu sebabnya kami di Kongres, dan khususnya mereka yang bekerja di bidang teknologi, pertahanan, dan kebijakan luar negeri, harus mulai mengatasi masalah ini dan bertindak sekarang, bukan dalam retrospeksi.
Partai Komunis Tiongkok telah mengakui nilai strategis AI otomatis. Pada tahun 2017, mereka meluncurkan “Rencana Pengembangan Kecerdasan Buatan Generasi Berikutnya,” yang bertujuan untuk mendominasi pengembangan AI global pada tahun 2030. Rencana ini bukan hanya tentang pendanaan penelitian, namun merupakan inisiatif sabuk dan jalan untuk AI: mengekspor pengaruh Tiongkok, memasukkan sistem ramah partai ke dalam angkatan udara, dan mengikis kepemimpinan teknologi Amerika di negara-negara sekutu.
Jika AS tidak memimpin pengembangan sistem AI otomatis secara bertanggung jawab, maka kita akan menghadapi risiko yang lebih besar daripada penurunan ekonomi. Kita akan mengendalikan masa depan yang dibentuk oleh algoritma kotak hitam dan mesin self-driving, yang beberapa di antaranya tidak sejalan dengan nilai-nilai demokrasi atau keamanan dasar manusia.
AS tidak perlu meniru pendekatan top-down Tiongkok. Kekuatan kami selalu berasal dari inovasi swasta, keterbukaan ilmiah, pasar bebas, dan rasa hormat yang mendalam terhadap kebebasan. Kita perlu menemukan cara untuk mendorong penelitian dan kemajuan Kemampuan penelitian dan pengembangan otomatis. Pada saat yang sama, kita harus berinvestasi di bidang-bidang yang penting untuk pengawasan penelitian dan pengembangan AI otomatis, seperti sistem interpretasi dan kontrol AI, yang diidentifikasi dalam rencana aksi AI yang dicanangkan Presiden Trump.
Memastikan AS tetap menonjol otomatis Di sana perkembangan Tanpa kehilangan visi transparansi, akuntabilitas dan pengawasan manusia Hal ini membutuhkan pengajuan pertanyaan yang tepat sekarang:
- Kapan pengembangan mandiri sistem AI melewati ambang batas yang memerlukan perhatian regulasi?
- Struktur apa yang ada, atau perlu dibangun, untuk memastikan kendali manusia atas sistem penelitian dan pengembangan AI yang semakin otonom?
- Bagaimana kita mengevaluasi dan memvalidasi sistem AI yang merupakan produk penelitian otomatis?
- Mekanisme apa yang diperlukan agar Kongres tetap mendapatkan informasi yang memadai tentang penelitian dan pengembangan otomatis yang dilakukan di perusahaan AI swasta?
- Bagaimana Kongres dapat mendorong inovasi sekaligus melindungi terhadap penyalahgunaan atau penggunaan teknologi sebagai senjata?
Saya tidak mengklaim memiliki jawaban akhir. Namun saya sangat yakin bahwa kecepatan dan kedalaman diskusi ini (dan tindakan yang dihasilkan) harus dipercepat dan diintensifkan, sebelum sistem AI generasi berikutnya mulai menciptakan masa depan tanpa kita ikut campur. AI telah mengalami kemajuan secara eksponensial, didorong oleh kekuatan komputasi, data, dan algoritma; Ketika sistem otomatis menciptakan data sintetis dan menemukan algoritma baru, kemajuan AI bisa meningkat dari eksponensial menjadi eksplosif.
Ini bukan seruan untuk membuat peraturan secara menyeluruh, juga bukan seruan untuk memperingatkan. Ini adalah panggilan untuk menghindari tertidur di kontrol.
Penelitian dan pengembangan AI otomatis akan menjadi fitur penentu persaingan global di tahun-tahun mendatang. Amerika Serikat harus memastikan bahwa kita, bukan musuh kita, yang menetapkan batasan etis dan strategis dari teknologi ini. Pekerjaan ini dimulai di sini, di aula Kongres.
Nathaniel Moran mewakili Distrik Texas pertama di Kongres.