Perempuan di Bidang Kecerdasan Buatan: Brandie Nonnecke dari UC Berkeley Mengatakan Investor Harus Mendesak Praktik AI yang Bertanggung Jawab

Untuk memberikan penghargaan yang pantas dan sudah lama ditunggu - bagi akademisi wanita yang berfokus pada AI dan yang lainnya, TechCrunch meluncurkan serangkaian wawancara yang fokus pada wanita luar biasa yang telah berkontribusi pada revolusi AI. Kami akan menerbitkan beberapa artikel sepanjang tahun ketika booming AI terus berlanjut, menyoroti pekerjaan kunci yang sering tidak cukup diakui. Baca profil lebih lanjut di sini.

Brandie Nonnecke adalah direktur pendiri CITRIS Policy Lab, berpusat di UC Berkeley, yang mendukung penelitian lintas disiplin untuk menangani pertanyaan seputar peran regulasi dalam mempromosikan inovasi. Nonnecke juga bersama-sama menjalankan Berkeley Center for Law and Technology, di mana ia memimpin proyek-proyek tentang AI, platform, dan masyarakat, serta UC Berkeley AI Policy Hub, inisiatif untuk melatih para peneliti untuk mengembangkan kerangka kerja tata kelola AI yang efektif dan kebijakan.

Di waktu luangnya, Nonnecke menjadi tuan rumah seri video dan podcast, TecHype, yang menganalisis kebijakan, regulasi, dan hukum teknologi yang sedang berkembang, memberikan wawasan tentang manfaat dan risiko yang sebenarnya, serta mengidentifikasi strategi untuk mengoptimalkan teknologi untuk kebaikan.

Tanya Jawab

Singkatnya, bagaimana Anda memulai karir Anda dalam bidang AI? Apa yang menarik Anda ke bidang ini?

Saya telah bekerja dalam tata kelola AI yang bertanggung jawab selama hampir satu dekade. Pelatihan saya dalam teknologi, kebijakan publik, dan interaksi mereka dengan dampak sosial membawa saya ke bidang ini. AI sudah merasuki dan memiliki dampak yang sangat besar dalam kehidupan kita - baik dan buruk. Bagi saya, sangat penting untuk secara nyata berkontribusi pada kemampuan masyarakat untuk menggunakan teknologi ini untuk kebaikan daripada hanya bersikap pasif.

Pekerjaan apakah yang paling membuat Anda bangga (di bidang AI)?

Saya sangat bangga dengan dua hal yang kita capai. Pertama, University of California adalah universitas pertama yang menetapkan prinsip-prinsip AI yang bertanggung jawab dan struktur tata kelola untuk lebih menjamin pengadaan dan penggunaan AI yang bertanggung jawab. Kami sangat serius dalam komitmen kami untuk melayani publik dengan cara yang bertanggung jawab. Saya berhormat menjadi co-chair pada UC Presidential Working Group on AI dan AI Council permanennya selanjutnya. Dalam peran ini, saya telah dapat memperoleh pengalaman langsung dalam pemikiran cara terbaik untuk mengoperasikan prinsip-prinsip AI yang bertanggung jawab kami untuk melindungi fakultas, staf, mahasiswa, dan komunitas lebih luas yang kami layani. Kedua, saya pikir sangat penting bagi publik untuk memahami teknologi yang sedang berkembang dan manfaat serta risiko nyata dari teknologi tersebut. Kami meluncurkan TecHype, seri video dan podcast yang memecahkan misteri teknologi yang berkembang dan memberikan panduan tentang intervensi teknis dan kebijakan yang efektif.

Bagaimana Anda menavigasi tantangan industri teknologi yang didominasi pria, dan, dengan konsekuensi, industri AI yang didominasi pria?

Jadilah seorang yang ingin tahu, gigih, dan tidak terpengaruh oleh sindrom penipu. Saya menemukan penting untuk mencari mentor yang mendukung keberagaman dan inklusi, dan untuk menawarkan dukungan yang sama kepada orang lain yang memasuki bidang ini. Membangun komunitas inklusif dalam teknologi telah menjadi cara yang powerful untuk berbagi pengalaman, saran, dan dorongan.

Apa saran yang akan Anda berikan kepada wanita yang ingin memasuki bidang AI?

Bagi wanita yang memasuki bidang AI, saran saya tiga kali lipat: Cari pengetahuan tanpa henti, karena AI adalah bidang yang berkembang dengan cepat. Manfaatkan jaringan, karena koneksi akan membuka pintu kesempatan dan menawarkan dukungan berharga. Dan membela diri sendiri dan orang lain, karena suara Anda penting dalam membentuk masa depan AI yang inklusif, adil. Ingatlah, pandangan dan pengalaman unik Anda memperkaya bidang ini dan mendorong inovasi.

Apa beberapa isu paling mendesak yang dihadapi AI seiring dengan perkembangannya?

Saya percaya salah satu isu paling mendesak yang dihadapi AI seiring dengan perkembangannya adalah tidak terjebak dalam siklus histeris terbaru. Kita melihat ini sekarang dengan AI generatif. Tentu, AI generatif menawarkan kemajuan signifikan dan akan memiliki dampak yang besar - baik dan buruk. Tetapi ada bentuk-bentuk pembelajaran mesin lain yang digunakan saat ini yang secara diam-diam membuat keputusan yang secara langsung memengaruhi kemampuan semua orang untuk mengakses hak-hak mereka. Alih-alih fokus pada kemarvelan terbaru pembelajaran mesin, lebih penting bagi kita untuk fokus pada bagaimana dan di mana pembelajaran mesin diterapkan tanpa memperdulikan keunggulan teknologinya.

Apa saja isu yang harus diketahui pengguna AI?

Pengguna AI harus menyadari isu terkait privasi dan keamanan data, potensi bias dalam pengambilan keputusan AI, dan pentingnya transparansi dalam cara sistem AI beroperasi dan mengambil keputusan. Memahami isu-isu ini dapat memberdayakan pengguna untuk menuntut sistem AI yang lebih bertanggung jawab dan adil.

Apa cara terbaik untuk membangun AI dengan bertanggung jawab?

Membangun AI dengan bertanggung jawab melibatkan pengintegrasian pertimbangan etis pada setiap tahap pengembangan dan implementasi. Ini termasuk keterlibatan pemangku kepentingan yang beragam, metodologi transparan, strategi manajemen bias, dan penilaian dampak berkelanjutan. Memprioritaskan kebaikan publik dan memastikan teknologi AI dikembangkan dengan hak asasi manusia, keadilan, dan inklusivitas sebagai intinya adalah hal yang mendasar.

Bagaimana investor dapat lebih mendorong untuk praktik AI yang bertanggung jawab?

Ini adalah pertanyaan yang sangat penting! Selama ini kita jarang secara eksplisit membahas peran investor. Saya tidak bisa cukup menekankan betapa berdampaknya para investor! Saya percaya bahwa trope bahwa 'regulasi menghambat inovasi' terlalu sering digunakan dan seringkali tidak benar. Sebaliknya, saya yakin bahwa perusahaan-perusahaan kecil dapat mengalami keuntungan pelaku terlambat dan belajar dari perusahaan-perusahaan AI besar yang telah mengembangkan praktik AI yang bertanggung jawab dan pedoman yang muncul dari akademisi, masyarakat sipil, dan pemerintah. Para investor memiliki kekuatan untuk membentuk arah industri dengan menjadikan praktik AI yang bertanggung jawab sebagai faktor kritis dalam keputusan investasi mereka. Ini termasuk mendukung inisiatif yang fokus pada menangani tantangan sosial melalui AI, mempromosikan keberagaman dan inklusi dalam angkatan kerja AI, dan memperjuangkan strategi tata kelola dan teknis yang kuat yang membantu memastikan teknologi AI memberi manfaat kepada masyarakat secara keseluruhan.