Teori Informasi Claude Shannon dalam Teknologi Digital Modern

Mengapa Shannon Masih Penting untuk Teknologi Sehari‑hari

Anda menggunakan ide‑ide Claude Shannon setiap kali mengirim teks, menonton video, atau bergabung ke Wi‑Fi. Bukan karena ponsel Anda “tahu Shannon,” tetapi karena sistem digital modern dibangun di sekitar janji sederhana: kita bisa mengubah pesan dunia nyata yang berantakan menjadi bit, mengirim bit itu melalui kanal yang tidak sempurna, dan tetap mendapatkan kembali konten asli dengan keandalan tinggi.

Teori informasi, dalam istilah sederhana

Teori informasi adalah matematika pesan: berapa banyak pilihan (ketidakpastian) yang dikandung sebuah pesan, seberapa efisien pesan itu dapat direpresentasikan, dan seberapa andal pesan itu dapat dikirim ketika kebisingan, interferensi, dan kemacetan ikut berperan.

Ada matematika di baliknya, tetapi Anda tidak perlu menjadi ahli matematika untuk menangkap intuisinya. Kita akan memakai contoh sehari‑hari—seperti mengapa beberapa foto lebih mudah dikompresi daripada yang lain, atau mengapa panggilan bisa terdengar bagus meski sinyal lemah—untuk menjelaskan ide‑ide tanpa rumus berat.

Empat pilar yang Anda lihat di mana‑mana

Artikel ini berputar di sekitar empat pilar terinspirasi Shannon yang muncul di teknologi modern:

• Kompresi: mengecilkan data (audio, video, berkas) tanpa kehilangan yang penting.
• Koreksi kesalahan: menambahkan cukup bit ekstra agar kesalahan dapat terdeteksi dan diperbaiki.
• Keandalan jaringan: menangani paket yang hilang dengan pengiriman ulang, pengurutan, dan pertukaran throughput/keandalan.
• Komunikasi digital ujung ke ujung: melihat seluruh rantai dari sumber (pesan Anda) ke kanal (Wi‑Fi, seluler, serat) dan kembali lagi.

Apa yang bisa Anda rasionalisasi setelah membaca

Di akhir bacaan, Anda harus bisa berpikir jelas tentang tradeoff nyata: mengapa kualitas video yang lebih tinggi butuh bandwidth lebih banyak, mengapa “lebih banyak bar” sinyal tidak selalu berarti internet lebih cepat, mengapa beberapa aplikasi terasa instan sementara yang lain buffering, dan mengapa setiap sistem mencapai batas—terutama batas Shannon yang terkenal tentang berapa banyak data andal yang dapat dibawa sebuah kanal.

Claude Shannon dalam Satu Halaman: Gagasan Besar

Pada 1948, matematikawan dan insinyur Claude Shannon memublikasikan sebuah makalah berjudul sederhana—A Mathematical Theory of Communication—yang diam‑diam mengubah cara kita memandang pengiriman data. Alih‑alih memperlakukan komunikasi sebagai seni, ia memandangnya sebagai masalah teknik: sebuah sumber menghasilkan pesan, sebuah kanal membawanya, kebisingan merusaknya, dan penerima berusaha merekonstruksi apa yang dikirim.

Informasi adalah “ketidakpastian yang berkurang,” bukan “makna”

Langkah kunci Shannon adalah mendefinisikan informasi sehingga dapat diukur dan berguna untuk mesin. Dalam kerangka itu, informasi bukan tentang seberapa penting sebuah pesan terasa, apa artinya, atau apakah itu benar. Informasi adalah seberapa mengagetkan pesan itu—seberapa banyak ketidakpastian yang hilang ketika Anda mengetahui hasilnya.

Jika Anda sudah tahu apa yang akan terjadi, pesannya membawa hampir tidak ada informasi. Jika Anda benar‑benar tidak yakin, mengetahui hasilnya membawa lebih banyak.

Bit: unit paling sederhana yang bisa Anda hitung

Untuk mengukur informasi, Shannon mempopulerkan bit (singkatan dari binary digit). Bit adalah jumlah informasi yang dibutuhkan untuk menyelesaikan ketidakpastian ya/tidak.

Contoh: Jika saya bertanya “Apakah lampu menyala?” dan Anda tidak tahu sebelumnya, jawaban (ya atau tidak) dapat dianggap menyampaikan 1 bit informasi. Banyak pesan nyata bisa dipecah menjadi urutan panjang pilihan biner seperti ini, itulah sebabnya segala sesuatu dari teks hingga foto hingga audio dapat disimpan dan dikirim sebagai bit.

Apa yang akan (dan tidak akan) dilakukan tulisan ini

Artikel ini fokus pada intuisi praktis di balik ide‑ide Shannon dan mengapa mereka muncul di mana‑mana: kompresi (membuat berkas lebih kecil), koreksi kesalahan (memperbaiki korupsi), keandalan jaringan (pengiriman ulang dan throughput), dan kapasitas kanal (seberapa cepat Anda bisa mengirim data melalui tautan yang bising).

Yang tidak akan dilakukan adalah menelusuri bukti‑bukti berat. Anda tidak perlu matematika lanjutan untuk memahami intinya: setelah Anda bisa mengukur informasi, Anda bisa merancang sistem yang mendekati efisiensi terbaik—sering kali cukup dekat dengan batas teoretis yang Shannon gambarkan.

Bit, Simbol, dan Kode: Kosakata Praktis

Sebelum membicarakan entropi, kompresi, atau koreksi kesalahan, ada baiknya menetapkan beberapa istilah sehari‑hari. Ide Shannon lebih mudah dipahami ketika Anda bisa menamai bagiannya.

Simbol, alfabet, dan pesan

Sebuah simbol adalah satu “token” dari himpunan yang disepakati. Himpunan itu adalah alfabet. Dalam teks bahasa Inggris, alfabetnya bisa huruf (ditambah spasi dan tanda baca). Dalam berkas komputer, alfabetnya bisa nilai byte 0–255.

Sebuah pesan adalah urutan simbol dari alfabet itu: sebuah kata, kalimat, file foto, atau aliran sampel audio.

Untuk tetap konkret, bayangkan alfabet kecil: {A, B, C}. Sebuah pesan bisa berupa:

A A B C A B A ...

Bit dan kode

Sebuah bit adalah digit biner: 0 atau 1. Komputer menyimpan dan mengirim bit karena perangkat keras bisa membedakan dua keadaan secara andal.

Sebuah kode adalah aturan untuk merepresentasikan simbol menggunakan bit (atau simbol lain). Misalnya, dengan alfabet {A, B, C}, salah satu kode biner mungkin:

• A → 0
• B → 10
• C → 11

Sekarang pesan apa pun yang terbuat dari A/B/C bisa diubah menjadi aliran bit.

Encoding vs. kompresi vs. enkripsi

Istilah‑istilah ini sering tercampur:

• Encoding: menerjemahkan data ke format yang dipilih sehingga bisa disimpan/dikirim/diproses (seperti memetakan A/B/C ke bit, atau mengonversi teks ke UTF‑8).
• Kompresi: encoding yang memakai lebih sedikit bit rata‑rata dengan memanfaatkan pola dan frekuensi tak merata.
• Enkripsi: mengacak data dengan kunci agar pihak luar tidak bisa membacanya; ini soal kerahasiaan, bukan ukuran.

Intuisi probabilitas singkat

Pesan nyata tidak acak sepenuhnya: beberapa simbol muncul lebih sering daripada yang lain. Misalnya A terjadi 70% waktu, B 20%, C 10%. Skema kompresi yang baik biasanya memberi pola bit lebih pendek ke simbol umum (A) dan yang lebih panjang ke simbol langka (C). Ketidakseimbangan frekuensi itulah yang nanti akan dikuantifikasi dengan entropi.

Entropi: Mengukur Kejutan (dan Mengapa Ia Memprediksi Kemampuan Kompresi)

Ide paling terkenal Shannon adalah entropi: cara mengukur berapa banyak “kejutan” yang ada dalam sumber informasi. Bukan kejutan sebagai emosi—melainkan kejutan sebagai ketidakpastian. Semakin tak terduga simbol berikutnya, semakin banyak informasi yang dibawanya ketika muncul.

Entropi sebagai “kejutan rata‑rata”

Bayangkan Anda menonton lemparan koin.

• Koin adil (50/50): Setiap lemparan sulit diprediksi. Kepala sama kemungkinannya dengan ekor, sehingga Anda sering “terkejut” dalam kedua kasus. Ketidakpastian tinggi ini berarti entropi tinggi.
• Koin berat (mis. 95% kepala, 5% ekor): Sebagian besar lemparan kepala. Setelah beberapa kali Anda mulai mengharapkan kepala, jadi melihat kepala membawa sedikit informasi baru. Hanya ekor yang jarang mengejutkan. Rata‑rata, urutan itu entropi rendah.

Pembingkaian “kejutan rata‑rata” ini cocok dengan pola sehari‑hari: berkas teks dengan banyak spasi dan kata umum lebih mudah diprediksi daripada berkas karakter acak.

Mengapa prediktabilitas berarti bisa dikompresi

Kompresi bekerja dengan memberi kode lebih pendek ke simbol umum dan kode lebih panjang ke simbol langka. Jika sumbernya mudah diprediksi (entropi rendah), Anda bisa sering menggunakan kode pendek dan menghemat ruang. Jika mendekati acak (entropi tinggi), sedikit ruang untuk menyusut karena tidak ada yang muncul cukup sering untuk dieksploitasi.

Entropi dan panjang kode rata‑rata terbaik

Shannon menunjukkan bahwa entropi menetapkan tolok ukur konseptual: ia adalah batas bawah terbaik pada jumlah rata‑rata bit per simbol yang dapat Anda capai saat mengkodekan data dari sumber itu.

Penting: entropi bukan algoritma kompresi. Ia tidak memberi tahu tepat bagaimana mengompresi berkas. Ia memberi tahu apa yang mungkin secara teoretis—dan ketika Anda sudah mendekati batas itu.