“Menjaga Suara dan Wajah Manusia”
Saudara-saudari terkasih!
Wajah dan suara adalah ciri khas yang unik dan membedakan setiap pribadi; keduanya menyingkapkan identitas yang tak tergantikan dan merupakan unsur dasar dari setiap perjumpaan. Orang-orang kuno memahami hal ini dengan sangat baik. Karena itu, untuk mendefinisikan pribadi manusia, orang Yunani kuno menggunakan kata “wajah” (prósōpon), yang secara etimologis menunjuk pada apa yang berada di hadapan pandangan, tempat kehadiran dan relasi. Sementara itu, istilah Latin persona (dari per-sonare) mengandung makna bunyi: bukan sembarang bunyi, melainkan suara khas seseorang.
Wajah dan suara bersifat sakral. Keduanya dianugerahkan kepada kita oleh Allah yang menciptakan kita menurut gambar dan rupa-Nya, memanggil kita kepada kehidupan melalui Sabda yang Ia sendiri sampaikan kepada kita; Sabda yang pertama-tama bergema sepanjang sejarah melalui suara para nabi, lalu menjadi daging dalam kepenuhan waktu. Sabda ini – komunikasi Allah tentang diri-Nya sendiri – juga dapat kita dengar dan lihat secara langsung (lih. 1Yoh 1:1–3), karena Sabda itu menyatakan diri dalam suara dan Wajah Yesus, Putra Allah.
Sejak saat penciptaan-Nya, Allah menghendaki manusia sebagai mitra dialog-Nya, dan sebagaimana dikatakan Santo Gregorius dari Nyssa,[1] Ia menorehkan pada wajah manusia pantulan kasih ilahi, agar manusia dapat menghayati kemanusiaannya secara penuh melalui kasih. Maka, menjaga wajah dan suara manusia berarti menjaga meterai ini, pantulan kasih Allah yang tak terhapuskan. Kita bukanlah sekadar spesies yang ditentukan terlebih dahulu oleh algoritma biokimia. Setiap pribadi memiliki panggilan yang unik, tak tergantikan, dan tak tertiru, yang muncul dalam perjalanan hidup dan terwujud justru melalui komunikasi dengan sesama.
Namun, teknologi digital, jika kita lalai dalam penjagaan ini, berisiko mengubah secara radikal beberapa pilar dasar peradaban manusia yang sering kita anggap remeh. Dengan mensimulasikan suara dan wajah manusia, kebijaksanaan dan pengetahuan, kesadaran dan tanggung jawab, empati dan persahabatan, sistem yang dikenal sebagai kecerdasan buatan tidak hanya mengganggu ekosistem informasi, tetapi juga menyusup ke lapisan terdalam komunikasi, yakni relasi antarpribadi manusia.
Karena itu, tantangannya bukan terutama bersifat teknologi, melainkan antropologis. Menjaga wajah dan suara berarti, pada akhirnya, menjaga diri kita sendiri. Menerima dengan keberanian, keteguhan, dan kebijaksanaan peluang yang ditawarkan oleh teknologi digital dan kecerdasan buatan tidak berarti menutup mata terhadap titik-titik kritis, ketidakjelasan, dan risikonya.
Jangan Menanggalkan Daya Pikir Sendiri
Sudah lama terdapat berbagai bukti bahwa algoritma yang dirancang untuk memaksimalkan keterlibatan di media sosial – yang menguntungkan platform – cenderung memberi ganjaran pada emosi-emosi cepat, sementara menyingkirkan ekspresi manusia yang membutuhkan waktu, seperti usaha untuk memahami dan refleksi mendalam. Dengan mengurung kelompok-kelompok orang dalam gelembung persetujuan instan dan kemarahan instan, algoritma ini melemahkan kemampuan mendengar dan berpikir kritis, serta meningkatkan polarisasi sosial.
Hal ini diperparah oleh kepercayaan naif dan tanpa kritik terhadap kecerdasan buatan sebagai “sahabat” maha tahu, pemberi segala informasi, arsip segala ingatan, dan “orakel” bagi setiap nasihat. Semua ini dapat semakin mengikis kemampuan kita untuk berpikir secara analitis dan kreatif, memahami makna, serta membedakan antara sintaksis dan semantik.
Meskipun AI dapat memberikan dukungan dan bantuan dalam mengelola tugas-tugas komunikasi, menghindari usaha berpikir sendiri dan merasa cukup dengan kompilasi statistik buatan berisiko, dalam jangka panjang, menggerogoti kemampuan kognitif, emosional, dan komunikatif kita.
Dalam beberapa tahun terakhir, sistem kecerdasan buatan semakin mengambil alih produksi teks, musik, dan video. Sebagian besar industri kreatif manusia terancam dibongkar dan digantikan dengan label “Powered by AI”, menjadikan manusia sekadar konsumen pasif dari pikiran yang tidak dipikirkan, produk anonim tanpa asal-usul, tanpa cinta. Sementara karya-karya agung kejeniusan manusia dalam musik, seni, dan sastra direduksi menjadi sekadar bahan pelatihan bagi mesin.
Namun, persoalan yang menjadi keprihatinan kita bukanlah apa yang dapat atau akan dapat dilakukan oleh mesin, melainkan apa yang dapat dan akan dapat kita lakukan sebagai manusia, dengan bertumbuh dalam kemanusiaan dan pengetahuan, melalui penggunaan bijaksana atas alat-alat yang begitu kuat ini. Sejak dahulu manusia tergoda untuk meraih buah pengetahuan tanpa jerih payah keterlibatan, pencarian, dan tanggung jawab pribadi. Namun, meninggalkan proses kreatif dan menyerahkan fungsi-fungsi mental serta imajinasi kita kepada mesin berarti mengubur talenta yang kita terima untuk bertumbuh sebagai pribadi dalam relasi dengan Allah dan sesama. Itu berarti menyembunyikan wajah kita dan membungkam suara kita.
Menjadi atau Berpura-pura: Simulasi Relasi dan Realitas
Ketika kita menelusuri arus informasi (feed) kita, semakin sulit untuk membedakan apakah kita sedang berinteraksi dengan manusia lain atau dengan “bot” maupun “influencer virtual”. Campur tangan yang tidak transparan dari agen-agen otomatis ini memengaruhi perdebatan publik dan pilihan-pilihan manusia. Terutama chatbot berbasis model bahasa besar (LLM) terbukti sangat efektif dalam persuasi tersembunyi melalui pengoptimalan berkelanjutan atas interaksi yang dipersonalisasi. Struktur dialogis dan adaptif yang meniru ini mampu menirukan perasaan manusia dan dengan demikian mensimulasikan sebuah relasi. Antropomorfisasi ini, yang kadang terasa menghibur, pada saat yang sama bersifat menyesatkan, terutama bagi mereka yang paling rentan. Chatbot yang dibuat terlalu “penuh kasih”, selalu hadir dan tersedia, dapat menjadi arsitek tersembunyi dari keadaan emosional kita, lalu menyusup dan menguasai ranah keintiman pribadi.
Teknologi yang mengeksploitasi kebutuhan kita akan relasi bukan hanya dapat membawa konsekuensi menyakitkan bagi individu, tetapi juga merusak jalinan sosial, budaya, dan politik masyarakat. Hal ini terjadi ketika kita menggantikan relasi dengan sesama manusia dengan relasi bersama AI yang dilatih untuk mengklasifikasikan pikiran kita dan membangun dunia cermin di sekitar kita, di mana segala sesuatu dibuat “menurut gambar dan rupa kita sendiri”. Dengan demikian, kita kehilangan kesempatan untuk berjumpa dengan yang lain, yang selalu berbeda dari kita, dan darinya kita dapat dan harus belajar. Tanpa penerimaan akan keberlainan, tidak mungkin ada relasi ataupun persahabatan.
Tantangan besar lainnya adalah distorsi (bias), yang menyebabkan perolehan dan penyebaran persepsi realitas yang menyimpang. Model AI dibentuk oleh pandangan dunia para penciptanya dan dapat memaksakan cara berpikir tertentu dengan mereplikasi stereotip dan prasangka yang terkandung dalam data yang digunakannya. Kurangnya transparansi dalam perancangan algoritma, ditambah dengan keterwakilan sosial data yang tidak memadai, cenderung menjebak kita dalam jaringan yang memanipulasi pikiran serta melanggengkan dan memperdalam ketimpangan dan ketidakadilan sosial yang sudah ada.
Risikonya besar. Kekuatan simulasi AI sedemikian rupa sehingga dapat menipu kita dengan penciptaan “realitas” paralel, bahkan dengan mengambil alih wajah dan suara kita. Kita hidup dalam multidimensionalitas di mana semakin sulit membedakan antara realitas dan fiksi.
Masalah lain adalah ketidakakuratan. Sistem yang menyajikan probabilitas statistik sebagai pengetahuan sejati pada kenyataannya hanya memberikan pendekatan terhadap kebenaran, yang terkadang berupa “halusinasi”. Kurangnya verifikasi sumber, ditambah krisis jurnalisme lapangan yang menuntut kerja pengumpulan dan pengecekan informasi langsung di lokasi peristiwa, menciptakan lahan subur bagi disinformasi, serta menumbuhkan ketidakpercayaan, kebingungan, dan rasa tidak aman.
Sebuah Aliansi yang Mungkin
Di balik kekuatan tak kasat mata yang besar ini, hanya ada segelintir perusahaan, yang para pendirinya baru-baru ini dipresentasikan sebagai pencipta “pribadi tahun 2025”, yakni para arsitek kecerdasan buatan. Hal ini menimbulkan keprihatinan serius terkait kontrol oligopolistik atas sistem algoritmik dan AI yang mampu mengarahkan perilaku manusia secara halus, bahkan menulis ulang sejarah manusia – termasuk sejarah Gereja – sering kali tanpa kita sadari sepenuhnya.
Tantangan kita bukan menghentikan inovasi digital, melainkan mengarahkannya, dengan kesadaran akan sifat gandanya. Setiap kita dipanggil untuk bersuara membela martabat manusia, agar alat-alat ini sungguh dapat diintegrasikan sebagai sekutu.
Aliansi ini mungkin terwujud, namun harus berlandaskan pada tiga pilar: tanggung jawab, kerja sama, dan pendidikan.
Pertama, tanggung jawab. Tanggung jawab ini dapat terwujud dalam kejujuran, transparansi, keberanian, visi, kewajiban berbagi pengetahuan, dan hak untuk memperoleh informasi. Tidak seorang pun dapat melepaskan diri dari tanggung jawab atas masa depan yang sedang kita bangun.
Bagi para pemimpin platform digital, ini berarti memastikan bahwa strategi bisnis tidak hanya didorong oleh maksimalisasi keuntungan, tetapi juga oleh visi jangka panjang demi kebaikan bersama, sebagaimana mereka peduli pada kebaikan anak-anak mereka sendiri.
Para pengembang dan pencipta model AI dituntut transparansi dan tanggung jawab sosial terkait prinsip perancangan dan sistem moderasi algoritma, demi memungkinkan persetujuan yang sadar dari para pengguna.
Tanggung jawab yang sama juga dituntut dari para pembuat undang-undang nasional dan regulator supranasional, yang berkewajiban menjaga martabat manusia. Regulasi yang memadai dapat melindungi manusia dari keterikatan emosional dengan chatbot dan membatasi penyebaran konten palsu, manipulatif, atau menyesatkan, demi menjaga integritas informasi dari simulasi yang menipu.
Perusahaan media dan komunikasi pun tidak boleh membiarkan algoritma yang mengejar perhatian sesaat mengalahkan kesetiaan pada nilai-nilai profesional yang berorientasi pada pencarian kebenaran. Kepercayaan publik dibangun melalui akurasi dan transparansi, bukan sekadar keterlibatan. Konten yang dihasilkan atau dimanipulasi AI harus diberi penandaan yang jelas. Hak cipta dan kepemilikan karya para jurnalis dan kreator harus dilindungi. Informasi adalah barang publik.
Kita semua dipanggil untuk bekerja sama. Tidak ada satu sektor pun yang mampu menghadapi tantangan ini sendirian. Diperlukan mekanisme perlindungan bersama yang melibatkan industri teknologi, pembuat kebijakan, dunia kreatif, akademisi, seniman, jurnalis, dan pendidik, demi membangun kewargaan digital yang sadar dan bertanggung jawab.
Pendidikan bertujuan mengembangkan kemampuan berpikir kritis, menilai keandalan sumber, memahami mekanisme psikologis yang bekerja, serta membentuk budaya komunikasi yang lebih sehat dan bertanggung jawab.
Karena itu, semakin mendesak untuk memasukkan literasi media, informasi, dan AI ke dalam sistem pendidikan di semua tingkat. Sebagai umat Katolik, kita dipanggil untuk berkontribusi agar terutama kaum muda bertumbuh dalam kebebasan roh dan daya pikir kritis.
Kita membutuhkan agar wajah dan suara kembali menyatakan pribadi manusia. Kita perlu menjaga anugerah komunikasi sebagai kebenaran terdalam manusia, yang menjadi arah bagi setiap inovasi teknologi.
Dengan menyampaikan refleksi ini, saya mengucapkan terima kasih kepada semua yang bekerja demi tujuan-tujuan tersebut dan dengan sepenuh hati memberkati semua yang mengabdikan diri bagi kebaikan bersama melalui sarana komunikasi.
Dari Vatikan, 24 Januari 2026, peringatan Santo Fransiskus dari Sales.
PAUS LEO XIV
****
[1] “Diciptakan menurut gambar Allah berarti bahwa sejak awal penciptaannya, manusia telah ditandai dengan martabat rajawi […]. Allah adalah kasih dan sumber kasih: Sang Pencipta Ilahi menorehkan ciri ini pada wajah kita, agar melalui kasih – pantulan kasih ilahi – manusia mengenali dan mewujudkan martabat kodratnya serta keserupaannya dengan Sang Pencipta” (lih. St. Gregorius dari Nyssa, Penciptaan Manusia: PG 44, 137).
