“Seperti halnya teknologi baru … [AI] memiliki beberapa keterbatasan,” kata Bird.
AI dapat menghasilkan konten dan kode berbahaya, menurut Bird, mungkin membuat sistem lebih rentan terhadap jenis serangan baru, seperti serangan injeksi cepat dan jailbreaking, yang memungkinkan penyerang melewati batasan perangkat lunak.
Namun, Bird mencatat bahwa AI dapat menjadi penyebab dan solusi untuk mengatasi tantangan keamanan siber baru ini. Microsoft saat ini menggunakan AI untuk membantu analis keamanan menilai jumlah sinyal ancaman dalam serangan untuk membantu perusahaan merespons secara lebih efektif, menurut Bird.
“Jadi kita akan melihat tingkat serangan dan pertahanan baru karena teknologi ini,” katanya.
Tantangan lain dalam mengadopsi alat AI generatif adalah berbagai peraturan di berbagai industri dan negara, Mark McDonald, kepala ilmu data dan analitik untuk cabang penelitian global HSBC, bank komersial terbesar di Hong Kong, disebutkan dalam panel yang sama.
“Kami telah melihat beberapa peraturan fokus pada area tersebut,” kata MacDonald. Menjadi sangat sulit bagi organisasi global dengan bisnis di berbagai wilayah untuk mematuhi aturan yang berbeda ini, tambahnya.
Komunitas teknologi menyerukan lebih banyak kejelasan dan konsistensi dalam regulasi teknologi yang baru muncul. Bird mengatakan regulator harus memikirkan seluruh ekosistem ketika merumuskan peraturan baru, karena AI generatif dapat diterapkan di banyak sektor – termasuk industri yang sangat diatur seperti layanan keuangan dan perawatan kesehatan – masing-masing dengan persyaratan mereka sendiri.
01:58
China membantah tuduhan peretasan yang disponsori negara dari AS, Inggris dan New Ealand
China membantah tuduhan peretasan yang disponsori negara dari AS, Inggris dan New Eastern
“Salah satu tantangannya adalah peraturan bergerak cepat,” kata Bird. “Mereka semua mengambil pendekatan yang berbeda.”
Mendidik regulator di bidang di mana mereka mungkin tidak memiliki pengetahuan tangan pertama adalah penting, menurut eksekutif Microsoft.
“Terus terang, banyak dari mereka tidak memiliki pengalaman dengan teknologi atau praktik kompleks yang diperlukan untuk itu,” katanya. “Jadi saya memiliki urgensi yang sangat besar untuk pergi dan mendidik di sekitar ruang ini jika orang tidak mengerti apa yang sebenarnya berhasil dan apa yang tidak berhasil.”
Leave a Reply