- 11 minutes ago
Malaysia sedang merangka undang-undang AI pertama yang bakal menentukan tanggungjawab pembangun dan pengguna teknologi kecerdasan buatan. Mampukah rangka kerja baharu ini melindungi rakyat daripada diskriminasi algoritma, deepfake dan keputusan AI yang tidak telus?
Category
🗞
NewsTranscript
00:04Malaysia kini berada di ambang pembetukan rangka kerja perundangan kecerdasan buatan AI yang pertama.
00:11Apabila kerajaan sedang memutamatkan rang undang-undang takbir urus AI berasaskan pendekatan risiko,
00:17melibatkan pembangun dan pengguna AI sepanjang kitaran hayat teknologi tersebut,
00:22antara cadangan utama termasuk kewajipan pengurusan risiko, pelaporan insiden serta pengawasan manusia
00:28bagi sistem AI berisiko tinggi.
00:30Namun ketika penggunaan AI semakin mempengaruhi keputusan berkaitan pekerjaan, kewangan, keselamatan dan maklumat harian,
00:38persoalan lebih besar timbul.
00:39Siapakah yang perlu dipertanggungjawabkan apabila AI menyebabkan kerugian atau ketidakadilan kepada rakyat?
00:45Mampukah undang-undang baru ini menutup jurang pelindungan yang wujud hari ini
00:49atau adakah Malaysia masih berdepan cabaran besar dalam memastikan inovasi berkembang tanpa mengorbankan hak pengguna?
00:56Dengan itu kita mempersilahkan tetamu yang sudah bersedia bersama kami dalam studi untuk mengulas menaik perkara ini
01:01adalah Muhammad Nazri Haya, rakan konsil pengurusan tentuan Nazri Haya Enco dan juga merupakan
01:06iaitu perunding untuk Persatuan Pengguna Cyber Malaysia, Ketua Perundangan untuk MCCA.
01:13Terima kasih Nazri kerana sudi meluangkan masa bersama kami.
01:16Pertama sekali kita melihat Malaysia sedang merangka undang-undang khusus untuk takbir urus
01:20penggunaan kecerdasan buatan AI ini tapi melihat kepada di mana kita capai hari ini
01:26sehingga perlu ada wujud suatu undang-undang ataupun polisi dasar untuk menguruskan keseluruhan ekosistem
01:33yang melibatkan AI ini. Apa sebenarnya yang berlaku ketika ini?
01:37Apa antara jurang yang paling besar terutama dalam pelindungan, keselamatan
01:41apabila kita bercakap mengenai untuk merangka undang-undang khusus AI?
01:44Baik, terima kasih. Umum mengetahui, sekarang ini kita mengetahui bahawa teknologi AI ini
01:51dia bergerak sangat pantas dan keupayaan AI itu pula amat tinggi dan ia boleh menjangkau
01:57pemikiran manusia. Seperti mana yang Elon Musk pernah katakan, dalam 5 atau 10 tahun
02:03akan datang, ada kemungkinan potensi AI boleh menggantikan manusia dalam segenap
02:10sektor pekerjaan. Dan AI ini juga, sekarang ini apa yang kita semua sedang tengah
02:16apa orang kata itu lalui, AI juga banyak memberi manfaat kepada kehidupan kita.
02:20Kalau dulu dalam bidang pekerjaan contohnya untuk buat satu surat, kita mungkin
02:24perlukan satu jam untuk merangka mencari apa namanya itu bahasa yang sesuai.
02:30Tapi sekarang dengan chat GPT kita hanya masukkan data, masukkan dokumen dan tak sampai
02:35seminit saya rasa kita dah boleh dapatkan dah surat yang kita kendaki.
02:38Dan itu dalam sektor pekerjaan, kalau kita lihat pada sektor yang lebih besar
02:41contohnya dalam bidang perubatan. So AI ini juga telah memberi manfaat yang besar
02:46contohnya baru-baru ini saya terbaca dalam sektor perubatan sekarang ini
02:51AI boleh menjangkakan hayat kehidupan seorang pesakit kanser dengan hanya melihat
02:58kepada muka pesakit tersebut. To that extent. Dan ada juga dalam bidang perubatan
03:03sekarang juga pembedahan telah mula dilakukan dengan AI.
03:08Belum di robot. Itu di sektor perubatan. Sektor industri otomotif misalnya.
03:13AI sangat bermanfaat. Dan dari segi begitu juga dengan pendidikan, perbankan
03:18AI boleh mengenalpasti kejadian fraud. Itu berlaku. Dan itu dari segi dari sudut
03:26kelebihan AI. Tapi harus diingat juga sekarang ini AI juga digunakan penjenayah
03:31untuk melakukan jenayah. Online skam contohnya. Deep fake yang meniru suara
03:37seseorang itu seolah-olah orang yang sebenar tetapi dibuat oleh AI untuk
03:42memperdaya mangsa skam untuk mendapatkan duit. Jadi kalau kita lihat sekarang ini
03:47ada kebaikan dan ada keburukan AI itu sendiri. Dan jadi saya percaya bahawa
03:52inilah datangnya asas kepada kenapa Malaysia memerlukan satu undang-undang
03:58khusus kepada AI. Kerana pada sekarang ini kita bukan hanya untuk nak undang-undang
04:04itu. Bukan hanya untuk mencari siapa yang salah. Bukan hanya menghukum siapa
04:08nak menyelahgunakan AI. Tetapi undang-undang itu akan dibuat untuk dari
04:13segi takbir urusnya. Bagaimana pengurusan penggunaan AI itu. Dari segi
04:18kawalnya, pengawalannya bagaimana apakah batas AI yang nak kita
04:21tetapkan di Malaysia ini. Dan yang paling penting sebenarnya bagi konteks
04:25bagi pihak MCCA, kita nak melihat juga undang-undang yang boleh memberi
04:28perlindungan yang komprehensif yang secara spesifik kepada pengguna-pengguna
04:32AI di Malaysia ini. So itu saya rasa secara ringkasnya begitulah kenapa
04:36asas yang diperlukan oleh Malaysia untuk satu undang-undang khusus
04:40terhadap AI. Undang-undang ini untuk kita rangka kena banyak buat research
04:44pemahati, observation. Apabila kita ingin mengumpul perkara-perkara ini
04:49sudah tentu jelas kita juga harus melihat kepada best case scenario, worst case
04:54scenario. Tapi melihat ada baik, ada buruknya dengan datangnya undang-undang ini
04:59kita dapat menentukan iaitu batas dan tanggungjawab. Dan sekiranya AI ini
05:05menyebabkan permohonan pinjaman terutamanya pembiayaan itu ditolak
05:09secara tidak adil. Lepas itu menyebabkan peluang pekerjaan ataupun peluang
05:13untuk individu terus sisih daripada peluang pekerjaan. Siapa sebenarnya
05:17yang patut bertanggungjawab daripada pembangun platform itu sendiri ke
05:21ataupun organisasi yang menggunakannya ke? Siapa yang perlu ditanggungjawabkan
05:25dalam keseluruhan chain?
05:27Ya, baik. Sebab kalau soalan Nina tadi mengatakan bahawa ada dua isu
05:32sebenarnya. Pertama sekali ialah berkenaan dengan model AI iaitu social
05:36scoring yang mengatakan bahawa mungkin sekarang ini di US tak silap saya
05:40ada syarikat-syarikat swasta yang menggunakan social scoring ini
05:43menggunakan AI ini untuk menilai sosial ataupun kehidupan seseorang itu
05:51untuk menjadikan dia asas untuk diterima bekerja.
05:55So, dan isu ini adalah isu pokoknya adakah AI model ini, model AI ini
06:00harus dibawa ke Malaysia? Itu persoalan dia. Sebab sekarang ini kalau kita
06:04lihat berkenaan dengan scoring ini, kalau kita menggunakan AI mungkin
06:09dalam kewangan. Yang itu kita gunakan Sikris, Sitos misalnya kan.
06:13Dan data-data itu yang penting it can be verified. Kita boleh verify data
06:18tersebut. Kalau kita tengok sekris itu, kita boleh tahu ini adalah berdasarkan
06:22pinjaman-pinjaman kita dengan pihak-pihak yang tertentu. Dan kalau ada
06:25kesilapan, kita boleh meminta pihak Sikris ataupun Sitos itu untuk
06:30meminda data-data yang tersilap tersebut. Dan saya percaya bahawa
06:34di Malaysia ini, sekarang ini yang saya rasmi digunakan untuk scoring itu
06:38adalah lebih kepada financial untuk membuat pinjaman. Tetapi kalaulah AI
06:44yang digunakan di luar untuk menilai kehidupan manusia itu, saya rasa
06:48itu tidak seharusnya dibawa ke Malaysia. Sebab ada juga negara-negara
06:52yang tidak membenarkan social scoring ini digunakan di negara mereka.
06:56ini kerana isu yang paling utama ditibukan adalah data. Dari mana
07:02AI mendapat data tersebut? Dan yang kedua juga adalah bias.
07:05Kalaulah kita menggunakan social scoring, contohnya untuk nak menilai
07:09seseorang kandidat itu sesuai ataupun jadat dengan pekerjaan itu,
07:12apa asasnya? Kalaulah kita katakan bahawa asasnya adalah daripada
07:17digital life mereka, tidak semua di Malaysia ini menggunakan Facebook
07:22ataupun menggunakan social media, jadi dia akan menjadi bias.
07:24itu yang pertama. Yang kedua pula berkenaan dengan soal
07:28accountability. Okey, kalau kita lihat sekarang ini, di Malaysia ini
07:31kita belum ada lagi satu apa namanya itu undang-undang khusus yang
07:36boleh persoalkan ataupun yang boleh meletakkan accountability itu
07:41kepada mana-mana pihak yang menggunakan AI. So, kalaulah sekarang ini
07:45apa yang berlaku sekiranya ada sebelum wujudnya akta AI ini
07:50dalam masa sekarang ini, kalaulah ada berlaku sebarang kecuaian
07:53contohnya, di pihak hospital ataupun dalam bidang perubatan, maka
07:58pihak boleh mengfalkan saman ataupun tututan terhadap hospital tersebut
08:02tetapi dalam civil. Dan itu pun bergantung kepada pesakit tersebut.
08:06kalau dia mampu mungkin untuk, ialah apa namanya untuk mengambil
08:10peguam dan teruskan ke mahkamah, maka ia akan menjadi kes mahkamah.
08:14Tetapi apa yang berlaku sekiranya kalau mangsa tersebut tidak
08:18berkemampuan dan dia tidak mempunyai acara untuk nak meneruskan
08:23ataupun nak mempertahankan hak mereka. Jadi itulah perlunya peranan
08:27undang-undang AI ini untuk memberikan satu pelindungan yang komprehensif
08:32kepada pengguna dan dalam masa yang sama, kita meletakkan
08:36tanggungjawab kepada pengguna ataupun pengeluar AI tersebut.
08:40Dan saya rasa contohnya, macam dalam AI itu juga, kalaulah sekarang ini
08:46kita boleh meletakkan, maksudnya tanpa sebarang undang-undang yang khusus
08:51kita tidak boleh mengatakan bahawa hospital ini salah, bank ini salah.
08:55Dan kalau bank pula, dia boleh mengatakan bahawa kami punya sistem
08:58yang problem dan dia akan menyalahkan supplier. Contohnya, sebab ada
09:03banyak pihak yang dalam chain of pembekalan AI itu mungkin ada banyak
09:09pihak-pihak yang terlibat, yang berasingan. Jadi undang-undang inilah yang
09:13perlu untuk kita mendefinasikan, memperincikan tanggungjawab setiap pihak
09:19yang terlibat dalam sesuatu penggunaan AI tersebut.
09:22Kita tak boleh stop yang orang nak pakai AI, bukan sahaja individu, syarikat
09:26pun akan menggunakannya. Zoran itu, tapi adakah realitinya mampu
09:30untuk satu undang-undang ini dirangka untuk memastikan setiap individu itu
09:35hold accountability agar tanggungjawab mereka tidak terlepas daripada
09:39pihak pengguna, iaitu pembangun sistem termasuk juga dengan iaitu
09:44organisasi yang menggunakan platform-platform ini. Mampukah ada satu
09:47rangka undang-undang yang ini lengkap di bawah satu umbrella untuk
09:51menangani, memastikan tanggungjawab untuk semua?
09:53Ya, bagi saya, AI ini kita tidak boleh menyekat. Sebarang undang-undang
09:59yang dibuat untuk mentadbir urus ini bukan tujuannya untuk menyekat
10:04atau memperlahankan AI itu. Ini kerana, kalaulah kita katakan bahawa
10:09di Malaysia ini, kita buat undang-undang untuk menyekat inovasi AI
10:13atau memperlahankan AI, maka kita akan mendapat kerugian tersebut.
10:16kerana kita di sini menyekat atau memperlahankan AI tetapi AI di luar
10:20sana masih lagi berkembang dan terus maju, maka kita yang akan
10:22ketinggalan. Jadi, saya percaya bahawa undang-undang itu seperti
10:26mana kerangka cyber ataupun undang cyber yang kita ada sekarang ini
10:30pun boleh sebenarnya untuk kita mengawal. At least mengawal dan kita
10:35memberikan tanggungjawab itu kepada penyedia ataupun pengguna
10:41AI itu untuk bertanggungjawab. Dan kita bukanlah semata-mata untuk
10:45menghukum tetapi sebenarnya apabila kita ada satu kerangka
10:48undang-undang yang jelas, maka kita juga boleh membataskan
10:51ataupun kita nak memastikan bahawa AI ini berkembang dan di akhirnya
10:55manusia yang mengawal AI itu. Sebab kita tak nak dia terus berkembang
10:59sebab AI ini seperti mana yang kita maklum. AI tidak mempunyai emosi,
11:02AI tidak ada adab, AI tidak ada, dia tak tahu kultur kita di Malaysia ini
11:06bagaimana. Jadi, disebabkan itu AI ini tidak boleh bergerak sendirian
11:10dan kita perlu membataskan AI itu, perlu ada pengawalan dan manusia
11:14harus mengawal dan pengawalan itulah yang untuk kita corakkan dalam
11:18kita punya undang-undang tersebut. Supaya apa-apa yang berlaku
11:22hendaklah dibuat berdasarkan kepada, bersandarkan kepada undang-undang
11:26Malaysia. Bersandarkan mungkin kultur Malaysia, bersandarkan kita punya
11:30dasar-dasar ataupun polisi-polisi yang ada di negara kita ini.
11:33Dan yang paling penting dalam konteks MCCA juga, setiap perkara-perkara tersebut,
11:37kalau ada kecelakaan atau kemudaratan yang terjadi, yang menimpa
11:44pengguna AI, maka harus ada orang ataupun ada pihak yang boleh
11:49dipertanggungjawabkan untuk memberi pelindungan tadi kepada pengguna tadi itu.
11:53Tapi ada setengah individu mereka tidak tahu apa yang menjejaskan
11:57kehidupan mereka adalah disebabkan AI. Mungkin indirectly mereka
12:02menggunakan AI. Keputusan baca sini, lepas itu lihat, pick and choose
12:07information daripada situ. Lepas itu mungkin daripada nasihat yang
12:10mereka ambil daripada kawan ataupun consulting professional. Mungkin
12:13mereka menggunakan AI juga. Kita tidak tahu. Dan namun adakah dalam
12:17undang-undang itu patut wajibkan seseorang individu sebelum gunakan
12:20AI, mereka patut tahu, mereka patut diberi maklum apa antara risiko
12:24dan benefitnya apabila guna AI ini. Dalam undang-undang itu kita
12:27wajibkan mereka tahu. Bagaimana?
12:28Sebenarnya itu adalah salah satu elemen yang sangat penting dalam
12:32undang-undang AI ini. Even dalam kesatuan Eropah, dalam Eropah punya
12:36akta AI juga. Elemen ketelusan. Sangat penting. Ini adalah elemen
12:40ketelusan ini adalah contohnya kalau dalam kes kandungan digital
12:45misalnya, seseorang itu adalah mungkin kita perlu letakkan di situ
12:49bahawa seseorang yang menggunakan AI ataupun konten yang di-create
12:54ataupun di-create AI hendaklah dilabelkan sebagai konten AI. Dan
12:58sekarang saya percaya bahawa ada media-media sosial yang telah
13:00mula meletakkan AI konten itu ataupun pelebelan AI itu. So, begitu
13:06juga saya rasa sebab kerana kalau sekarang ini kalau kita tengok
13:09video-video itu kadang-kadang macam orang betul. Tapi sebenarnya
13:12AI. Jadi untuk mengelakkan fitnah, untuk mengelakkan keraguan, maka
13:17saya rasa pelebelan itu di bawah prinsip ketelusan itu perlu
13:21dibuat. Dan seterusnya juga, mungkin juga dalam bidang sektor yang
13:25lebih besar. Contohnya, kalau ada sektor perubatan misalnya
13:30menggunakan robot pembedahan. Dan robot itu adalah AI. Maka mungkin
13:34ada undang-undang dalam undang-undang itu diletakkan bahawa pihak
13:37hospital perlu memberi penjelasan dengan telus kepada pesakit itu
13:42bahawa AI yang akan buat pembedahan ini. So, atas apa batasannya,
13:46apakah fungsi ataupun apakah perkara-perkara yang akan dilakukan
13:50oleh AI dan apakah pula yang dilakukan oleh manusia biasa. Dan
13:53bagaimana pula dengan status robot AI itu. Adakah telah dibuat
14:00apa orang kata itu maintenance? Bagaimana dengan adakah ia boleh
14:04apa orang kata telah diuji sebelum ini? So, perkara-perkara itu
14:08penting untuk dimaklumkan kepada masyarakat, kepada pengguna
14:11supaya pengguna boleh membuat keputusan yang wajar. Sebelum sesuatu
14:15perkara itu boleh diambil ataupun sebelum AI kita menyerahkan
14:19ataupun sebelum kita menyerahkan apa yang keputusan kita itu
14:22untuk dibuat oleh AI. Begitu. Dan bercakap mengenai AI, pendekatan
14:26yang digunakan untuk merangka undang-undang ini adalah
14:28berasaskan risiko. Tapi siapa yang menentukan sama ada
14:33sesuatu sistem itu AI berisiko tinggi dan bagaimana untuk kita
14:36menentukan selepas kita dah menilai, kita boleh bawa penilai itu
14:39dan tawarkan dan berikan kepada syarikat-syarikat yang mempunyai
14:42sangat kepentingan, sangat besar untuk menggunakan AI.
14:45Betul. Risk-based approach ini yang digunakan dalam akta di Eropah
14:50dan saya percaya di Malaysia juga berdasarkan kenyataan
14:54Menteri Kementerian Digital baru-baru ini mengatakan bahawa
14:57di Malaysia ini juga mungkin akan menggunakan risk-based approach
14:59yang mana undang-undang ini seperti yang saya katakan tadi
15:02dalam setiap sektor itu ada keperluan AI. Maka undang-undang itu
15:07hendaklah melihat menyeimbangkan keperluan AI itu yang digunakan
15:10setiap sektor dan juga risiko kepada pengguna. Contoh kalau macam
15:14dalam perubatan, kalau kita menggunakan AI itu, risiko kalau
15:18salah guna mungkin akan boleh menyebabkan kecederaan ataupun
15:21kematian dan disebabkan itu undang-undang untuk mentadbir urus
15:26dan mengawal kegunaan AI itu hendaklah lebih mungkin lebih detail,
15:31lebih terperinci berbanding kalau mungkin dalam bidang pertanian
15:34ataupun dalam bidang pendidikan. Dan jadi atas dasar itu saya percaya
15:39bahawa mekanisme yang sama ataupun mekanisme yang digunakan
15:42dalam ONSA, Online Safety Act, mungkin boleh digunakan yang mana
15:46kerajaan melantik keutuan kuasa yang terdiri daripada pelbagai pakar
15:51daripada sektor perindustrian dan juga pakar akademik untuk
15:55mengelakkan konflik kepentingan. Saya rasa kita kita letakkan juga
15:59pakar-pakar akademik dan juga pakar-pakar dalam bidang perundangan
16:03misalnya. So kesemua pakar ini hendaklah duduk dan mereka akan
16:07menentukan dalam industri mereka ini apa keperluan AI itu, di mana
16:11batasnya dan kalaulah sebab mereka ini orang-orang teknikal ini
16:14yang mengetahui keperluan mereka dalam setiap industri kan. Jadi
16:18oleh demikian jawatan kuasa ini yang akan menentukan bagaimana
16:22penggunaan AI ini, apakah batasnya dan apakah bagaimana pengurusan
16:27AI itu boleh dibuat. Dan saya percaya perkara itu mungkin boleh dibuat
16:31melalui undang-undang kecil untuk setiap jabatan ataupun
16:33setiap sektor industri itu. Kita berbagikan dua minit tapi saya
16:37ingin tanyakan juga kepada Tuan. Berdasarkan peranan yang
16:40diumumkan, kita tahu AI Malaysia Berhad akan menyokong pembangunan
16:43ekosistem AI serta akan jalankan antara fungsi-fungsi utama tak
16:48berurus dan juga keselamatan. Tetapi apa yang perlu kita ada untuk
16:52kita bezakan pemisahan kuasa dan juga pengawasan bebas yang
16:55diperlukan supaya usaha untuk menarik pelaburan ini tidak
16:59menjejaskan ketegasan penilaian keselamatan bahawa kalau kita
17:02lihat undang-undang dah ada, mungkin kita tahu banyak pelaburan
17:06akan datang ini, kita lebih selamat untuk kita invest. Tetapi mungkin
17:10terlalu strict jangan sampai mereka takut untuk invest. So ini adalah
17:13antara titik tengah yang perlu kita balance. Bagaimana untuk kita
17:17teliti perkara ini pula? Baik, saya percaya bahawa undang-undang yang
17:20keterangka itu, kita perlu jelas dari segi dasar penggunaan AI di
17:24Malaysia ini. Kita ada pelan AI negara dan saya rasa pelan AI negara itu
17:30perlu diterjemahkan di dalam undang-undang yang tidak dirangka itu.
17:34Seperti yang saya katakan tadi, tujuan perundangan undang-undang yang
17:37dibuat itu bukan untuk menyekat inovasi AI tetapi lebih untuk mengawal
17:41selia dan sekiranya saya percaya kalaulah undang-undang yang dibuat itu
17:46mampu untuk memberi pelindungan yang komprehensif kepada pengguna dan dalam
17:51pada masa yang sama juga memberi keadilan, keseimbangan kepada
17:56penyedia AI. Maka saya percaya bahawa itu merupakan satu tarikan juga
18:00kepada investor-investor luar sebab mereka tahu bahawa ada orang kata itu
18:07potensi untuk kemajuan AI di Malaysia hari ini.
18:10Kita mengharapkan draft undang-undang ini apabila terbitkan dapat
18:15melindungi rakyat secara keseluruhan daripada pelbagai sektor, pelbagai
18:19bidang, pelbagai organisasi dan AI jelas mampu mengubah masa depan negara
18:24tetapi kemajuan teknologi tidak boleh mengatasi hak dan juga
18:28keselamatan rakyat. Itu jelaslah undang-undang yang berkesan bukan sekadar
18:32dapat mengawal risiko seperti yang telah dikongsikan oleh Nazri tadi tetapi
18:35memastikan ada pihak yang bertanggungjawab apabila teknologi itu membawa
18:39iaitu mudarat. Dan terima kasih saya ucapkan kepada Nazri Haya, ketua
18:44perundangan untuk MCCA kerana sudi bersama kami dan perkongsi pandangan
18:48dalam niaga awal ini pada hari ini. Terima kasih.