Sistem AI berisiko tinggi minangka titik fokus saka Peraturan AI Eropa ( Peraturan (EU) 2024/1689 ), sing umum diarani minangka Undhang-undhang AI, sing ngenalake kerangka kerja berbasis risiko kanggo ngembangake, nyedhiyakake, lan nggunakake sistem kecerdasan buatan (AI). Saya dhuwur risiko kesehatan, keselamatan, lan hak-hak dhasar, saya abot kewajibane.
Kanggo organisasi, kepatuhan ora diwiwiti kanthi nyusun dokumentasi teknis, nanging kanthi klasifikasi sing bener. Kapisan, nemtokake sistem AI endi sing dikembangake, dituku, utawa digunakake ing organisasi kasebut. Banjur, netepake apa sistem kasebut dilarang , beresiko dhuwur, tundhuk karo kewajiban transparansi, utawa ing njaba kewajiban tartamtu.
Artikel iki njlentrehake kapan sistem AI bisa nduweni kualifikasi risiko dhuwur, kewajiban apa sing ditrapake kanggo panyedhiya lan panyebar, lan langkah apa sing bisa ditindakake organisasi saiki. Artikel iki uga nyakup garis wektu saiki, kalebu owah-owahan ing proses Digital Omnibus. Tanggal referensi kanggo artikel iki yaiku 25 Juli 2026.
Kapan sistem AI iku beresiko dhuwur?
Penilaian sistem AI berisiko tinggi digawe utamane miturut Pasal 6 lan Lampiran I lan III saka Undhang-undhang AI. Ana rong rute.
Rute pertama ana hubungane karo sistem AI sing dadi bagean saka produk sing dilindhungi dening undang-undang produk Eropa sing kadhaptar ing Lampiran I lan mbutuhake penilaian kesesuaian pihak katelu. Coba pikirake piranti medis, mesin, lift, lan dolanan tartamtu. Kanggo sistem kasebut, Undhang-undhang AI dibangun ing prosedur penilaian kesesuaian sing wis ana.
Rute kapindho ana hubungane karo sistem AI sing digunakake ing domain sing kadhaptar ing Lampiran III: biometrik, infrastruktur kritis, pendidikan lan pelatihan kejuruan, manajemen lapangan kerja lan tenaga kerja, akses menyang layanan swasta lan umum sing penting, penegakan hukum, migrasi, suaka lan kontrol tapel wates, lan administrasi keadilan lan proses demokrasi. Ora saben panggunaan ing domain kasebut kanthi otomatis nyebabake klasifikasi ing antarane sistem AI sing beresiko tinggi: fungsi spesifik sistem lan kahanan Pasal 6 uga kudu ditaksir.
Pengecualian ing Pasal 6(3)
Sistem sing kalebu ing domain Lampiran III ora otomatis diitung minangka sistem AI berisiko tinggi: klasifikasi kasebut ora kalebu yen ora ana risiko sing signifikan kanggo kesehatan, keamanan, utawa hak-hak dhasar wong lan ora mengaruhi asil pengambilan keputusan kanthi materi. Iki bisa uga kedadeyan nalika sistem kasebut mung nindakake tugas prosedural sing sempit, mung nambah kegiatan sing wis ditindakake dening manungsa, mung menehi tandha penyimpangan saka pengambilan keputusan manungsa sadurunge tanpa ngganti penilaian kasebut, utawa mung nindakake tugas persiapan.
Ketergantungan marang pengecualian iki kudu dijlentrehake lan didokumentasikake kanthi teliti. Organisasi kasebut ora mung nyathet kesimpulan, nanging uga fakta lan penilaian sing dadi dhasar kesimpulan kasebut. Panyedhiya sing nganggep manawa sistem Lampiran III ora kalebu ing sistem AI berisiko tinggi kudu ndokumentasikake penilaian kasebut sadurunge sistem kasebut dilebokake ing pasar utawa dilebokake ing layanan, lan uga tundhuk karo kewajiban registrasi ing Pasal 49(2).
Ing salah sawijining poin, Peraturan iki absolut. Pasal 6(3) netepake yen sistem AI sing kasebut ing Lampiran III mesthi diitung ing antarane sistem AI berisiko tinggi ing ngendi dheweke nindakake profiling wong. Pengecualian kasebut ora bisa digunakake ing kasus kasebut.
Apa peran organisasi sampeyan?
Undhang-undhang AI mbedakake sawetara peran ing rantai kasebut. Loro saka iku penting kanggo umume organisasi. Pihak sing ngembangake sistem AI, utawa nyelehake ing pasar kanthi jeneng utawa merek dagang dhewe, nduweni kualifikasi minangka panyedhiya. Pihak sing nggunakake sistem AI sajrone bisnis dhewe tanpa ngembangake umume nduweni kualifikasi minangka deployer.
Alokasi peran kasebut ora statis. Organisasi sing ngowahi sistem sing dituku kanthi substansial, nyedhiyakake kanthi jeneng utawa merek dagang dhewe, utawa ngganti tujuan sing dimaksud, isih bisa dianggep minangka panyedhiya lan kanthi mangkono kudu tanggung jawab sing luwih abot. Nemtokake peran apa sing sampeyan lakoni kanggo saben sistem, lan cathet penilaian kasebut.
Kewajiban utama
Panyedhiya sistem AI berisiko tinggi tundhuk karo kewajiban kalebu sing ana ing Pasal 8 nganti 17, 43 lan 47 nganti 49:
- sistem manajemen risiko sing nyakup kabeh siklus urip
- tata kelola data, kalebu ndeteksi lan mbenerake bias ing data sing digunakake, kalebu pelatihan, validasi, lan uji coba data
- dokumentasi teknis miturut Lampiran IV, lan pencatatan acara
- pandhuan sing jelas kanggo panggunaan kanggo para deployer
- desain sing nggampangake pengawasan manungsa sing efektif
- syarat akurasi, kekokohan, lan keamanan siber
- sistem manajemen kualitas, penilaian kesesuaian, deklarasi kesesuaian EU, penandaan CE lan registrasi ing basis data EU
Kanggo sistem AI risiko dhuwur sing digunakake kanggo identifikasi biometrik jarak jauh kaya sing kasebut ing Lampiran III, poin 1(a), Pasal 14(5) ngetrapake syarat tambahan babagan pengawasan manungsa: ora ana tindakan utawa keputusan sing bisa ditindakake adhedhasar identifikasi kajaba wis diverifikasi lan dikonfirmasi kanthi kapisah dening paling ora rong wong kanthi kompetensi, pelatihan, lan wewenang sing dibutuhake. Iki dikenal minangka prinsip papat mripat.
Para deployer kudu netepi kewajiban sing luwih entheng nanging ora kalah penting saka Pasal 26 lan 27: panggunaan miturut pandhuan panggunaan, pengawasan manungsa sing kompeten, pemantauan operasi sistem, pelaporan risiko lan kedadeyan serius, lan panyimpenan log paling ora nem wulan. Karyawan sing bakal kerja karo sistem kasebut, lan wong sing ditrapake, kudu diwenehi informasi luwih dhisik.
Penempatan tartamtu uga kudu nindakake penilaian dampak hak-hak dhasar, Penilaian Dampak Hak-Hak Dhasar miturut Pasal 27. Iki ditrapake ing acara apa wae kanggo badan sing diatur dening hukum publik, kanggo panyedhiya layanan umum swasta, lan kanggo penempatan sing nggunakake sistem kanggo penilaian kredit utawa kanggo netepake risiko asuransi ing asuransi jiwa lan kesehatan.
Garis wektu lan status saiki
Undhang-undhang AI iki mulai berlaku tanggal 1 Agustus 2024 lan bakal ditrapake kanthi bertahap. Ing praktik, penting kanggo mbedakake antarane kewajiban sing wis ditrapake, kewajiban sing bakal ditrapake ing mangsa ngarep, lan amandemen sing diumumake sing durung rampung ditrapake sacara resmi.
Praktik sing dilarang (Pasal 5): Ditrapake wiwit 2 Februari 2025
Literasi AI (Pasal 4): Ditrapake wiwit 2 Februari 2025
Model AI tujuan umum: Ditrapake wiwit 2 Agustus 2025
Kewajiban transparansi (Pasal 50): Ditrapake wiwit 2 Agustus 2026; ora ditundha
Risiko dhuwur liwat Lampiran III: Resmi isih 2 Agustus 2026; sawise Omnibus ditrapake, paling lambat 2 Desember 2027
Risiko dhuwur liwat Lampiran I: Resmi isih 2 Agustus 2027; sawise Omnibus ditrapake, paling lambat 2 Agustus 2028
Ing tanggal 19 November 2025, Komisi Eropa nerbitake paket Omnibus Digital, sing ngusulake kanggo nundha penerapan kewajiban kanggo sistem AI berisiko tinggi. Kesepakatan politik sementara dicapai tanggal 7 Mei 2026. Parlemen Eropa menehi dukungan tanggal 16 Juni 2026 lan Dewan menehi persetujuan pungkasan tanggal 29 Juni 2026.
Nanging, ing tanggal referensi artikel iki, publikasi ing Jurnal Resmi Uni Eropa durung rampung. Amandemen kasebut mulai berlaku ing dina katelu sawise publikasi kasebut. Nganti saiki, garis wektu Undhang-undhang AI asli tetep dadi hukum sing ditrapake, kanthi 2 Agustus 2026 minangka tanggal aplikasi kanggo kewajiban berisiko tinggi miturut Lampiran III. Publikasi sadurunge tanggal kasebut diarepake sacara wiyar, nanging durung dikonfirmasi.
Penundaan kasebut uga disusun kanthi kondisional. Penerapan kewajiban kanggo sistem AI berisiko tinggi ana gandhengane karo keputusan Komisi sing netepake manawa standar sing diselarasake lan instrumen pendukung sing dibutuhake kasedhiya, banjur periode transisi. Tanggal 2 Desember 2027 lan 2 Agustus 2028 berfungsi minangka tanggal backstop tinimbang minangka penundaan sing prasaja.
Ana rong poin sing kudu digatekake kanthi kapisah. Kapisan, kewajiban transparansi Pasal 50 lan kewajiban literasi AI Pasal 4 durung ditundha: tetep ana ing jadwal asline. Kapindho, paket kasebut nambahake larangan anyar ing Pasal 5, sing ditujokake kanggo aplikasi AI sing ngasilake citra intim non-konsensual lan materi pelecehan seksual anak sing digawe AI.
Kanggo organisasi, iki tegese perencanaan nganti Desember 2027 iku masuk akal, nanging pencatatan saiki kudu diatur kaya-kaya Agustus 2026 isih kaiket, nganti Jurnal Resmi ujar liya.
Pengawasan lan sanksi
Ing Walanda, undang-undang implementasi kanggo Undhang-undhang AI isih kurang nganti tanggal referensi artikel iki. Otoritas Walanda kanggo Infrastruktur Digital lan Otoritas Perlindungan Data Walanda diarepake bakal njupuk peran pusat lan koordinasi, kanthi pengawas sektoral tetep tanggung jawab ing wilayah dhewe-dhewe. Nanging, alokasi kekuasaan sing tepat lan basis hukum kudu ditemtokake adhedhasar undang-undang implementasi pungkasan Walanda.
Pasal 99 saka Undhang-undhang AI nyedhiyakake sawetara kategori paukuman maksimal. Tingkat kasebut gumantung saka sifat pelanggaran lan, yen ana hubungane, saka omzet taunan perusahaan ing saindenging jagad. Maksimum paling dhuwur ditrapake kanggo pelanggaran praktik sing dilarang ing Pasal 5; maksimum sing luwih murah ditrapake kanggo pelanggaran kewajiban liyane, kalebu kanggo panyedhiya lan panyebar sistem AI berisiko tinggi; lan sing paling endhek ditrapake kanggo nyedhiyakake informasi sing salah, ora lengkap, utawa mblusukake marang panguwasa. Rezim sing luwih nguntungake ditrapake kanggo usaha cilik lan menengah (UKM), kalebu perusahaan rintisan. Hukuman sing nyata ditemtokake kanthi nggatekake aturan sing ditrapake babagan paukuman lan kahanan kasus kasebut.
Peta dalan praktis
- Inventaris kabeh sistem AI sing dikembangake, dituku, utawa digunakake organisasi sampeyan.
- Nemtokake peran sing sampeyan lakoni kanggo saben sistem: panyedhiya utawa panyebar.
- Nemtokake kategori risiko kanggo saben sistem lan dokumentasikake penilaian kasebut, kalebu katergantungan marang pengecualian ing Pasal 6(3).
- Nyetel tata kelola AI lan nunjuk pejabat sing tanggung jawab.
- Njamin literasi AI ing antarane staf sing makarya nganggo sistem kasebut; kewajiban kasebut wis ditrapake.
- Siapna langkah-langkah transparansi miturut Pasal 50 kanthi tujuan nganti 2 Agustus 2026.
- Miwiti dokumentasi teknis lan, yen dibutuhake, penilaian dampak hak-hak dhasar kanthi tepat wektu.
- Nliti kontrak pemasok babagan alokasi peran, panyediaan informasi, lan hak audit.
- Awasi publikasi paket Omnibus ing Jurnal Resmi lan sesuaikan perencanaan sampeyan.
kesimpulan
Undhang-undhang AI nduweni pengaruh dhasar marang kepiye organisasi ngembangake, tuku, lan nggunakake AI. Penundaan kewajiban berisiko tinggi sing diumumake nyedhiyakake wektu tambahan, nanging durung dadi undang-undang sing ditrapake, lan kewajiban sing wis ditrapake utawa ditrapake tanggal 2 Agustus 2026 ora kena pengaruh. Mula, pendekatan sing wicaksana yaiku ngrancang tanggal anyar nalika tetep siyap kanggo tanggal lawas. Kanggo ringkesan peraturan sing luwih jembar, deleng Pandhuan Lengkap kanggo Undhang-undhang AI EU , sing nambah fokus artikel iki babagan sistem AI berisiko tinggi.
Law & More mbantu organisasi nginventarisasi lan nglasifikasikake sistem AI, nemtokake perane minangka panyedhiya utawa deployer, nliti lan nyusun kontrak karo pemasok AI, lan nyetel tata kelola AI. Apa sampeyan pengin ngerti kewajiban apa sing saiki ditrapake kanggo organisasi sampeyan lan langkah endi sing kudu diprioritasake? Monggo hubungi kita kanggo diskusi tanpa kewajiban.
Pitakonan Paling Sering
Ing ngisor iki kita bakal njawab pitakonan sing paling kerep ditakoni babagan iki.
Apa kuwi UU AI?
Peraturan AI Eropa (Peraturan (EU) 2024/1689). Peraturan iki mulai berlaku tanggal 1 Agustus 2024 lan ditrapake kanthi bertahap, kanthi kewajiban sing saya tambah abot nalika risiko sing ditimbulake dening sistem AI saya tambah.
Kapan sistem AI iku beresiko dhuwur?
Liwat rong cara: minangka bagéan saka produk sing dilindhungi déning undang-undang produk sing kadhaptar ing Lampiran I, utawa liwat panggunaan ing salah sawijining domain sing kadhaptar ing Lampiran III. Ing kasus terakhir, domain kasebut waé ora nemtokaké; fungsi tartamtu lan kahanan Pasal 6 uga diitung.
Apa sistem Lampiran III isih bisa kalebu ing kategori risiko dhuwur?
Ya, ing ngendi ora ana risiko sing signifikan lan ora mengaruhi pengambilan keputusan kanthi materi, contone nalika nindakake tugas prosedural sing sempit utawa tugas persiapan murni. Penilaian kasebut kudu didokumentasikake. Ing ngendi sistem nindakake profiling wong, pangecualian ora nate ditrapake.
Apa aku panyedhiya utawa panyedia?
Sampeyan minangka panyedhiya yen sampeyan ngembangake sistem utawa masang ing pasar nganggo jeneng utawa merek dagang sampeyan dhewe, lan umume minangka deployer yen sampeyan nggunakake sistem sing dituku. Yen sampeyan ngowahi sistem sing dituku kanthi substansial utawa nyedhiyakake kanthi jeneng sampeyan dhewe, sampeyan isih bisa dadi panyedhiya.
Kewajiban apa sing ditrapake kanggo panyedhiya?
Antarane liyane, manajemen risiko, tata kelola data, dokumentasi teknis, pencatatan, pandhuan panggunaan, pengawasan manungsa, syarat akurasi lan keamanan siber, sistem manajemen kualitas, penilaian kesesuaian, penandaan CE, lan registrasi ing basis data EU.
Kewajiban apa sing ditrapake kanggo para deployer?
Gunakake miturut pandhuan, pengawasan manungsa sing kompeten, pemantauan, pelaporan risiko lan kedadeyan serius, lan panyimpenan log paling ora nem wulan. Karyawan sing terlibat lan wong sing diterapake sistem kasebut kudu diwenehi informasi luwih dhisik.
Kapan penilaian dampak hak-hak dhasar kudu ditindakake?
Pasal 27 mbutuhake iki, antara liya, saka badan sing diatur dening hukum publik, panyedhiya layanan publik swasta, lan panyedia sing nggunakake sistem kanggo penilaian kredit utawa kanggo netepake risiko asuransi ing asuransi jiwa lan kesehatan.
Apa kewajiban sing beresiko dhuwur wis ditundha?
Amandemen sing wis diadopsi nundha aplikasi nganti paling telat tanggal 2 Desember 2027 kanggo Lampiran III lan 2 Agustus 2028 kanggo Lampiran I. Ing tanggal referensi artikel iki, amandemen kasebut durung diterbitake ing Jurnal Resmi, mula tanggal asli 2 Agustus 2026 isih ditrapake kanthi resmi.
Apa sing wis ditrapake dina iki?
Praktik sing dilarang ing Pasal 5 lan kewajiban literasi AI wiwit 2 Februari 2025, lan aturan kanggo model AI tujuan umum wiwit 2 Agustus 2025. Kewajiban transparansi ing Pasal 50 mulai berlaku tanggal 2 Agustus 2026 lan durung ditundha.
Sapa sing ngawasi Undhang-undhang AI ing Walanda?
Implementasi undang-undang isih kurang. Otoritas Infrastruktur Digital Walanda lan Otoritas Perlindungan Data Walanda diarepake bakal njupuk peran pusat lan koordinasi, bebarengan karo pengawas sektoral. Alokasi kekuasaan pungkasan bakal ditindakake saka undang-undang implementasi Walanda.
Apa sing kudu ditindakake organisasiku saiki?
Wiwiti kanthi inventaris kabeh sistem AI sing sampeyan kembangake, tuku, utawa gunakake. Cathet kanggo saben sistem peran apa sing sampeyan duwe, kategori risiko apa sing ditrapake, lan kewajiban apa sing kudu ditindakake. Uga atur tata kelola AI, priksa manawa sampeyan duwe literasi AI, lan deleng kontrak pemasok babagan alokasi peran, panyediaan informasi, lan hak audit.
