Pelajari gagasan inti Claude Shannon—bit, entropi, dan kapasitas kanal—dan bagaimana ide‑ide itu mendasari kompresi, koreksi kesalahan, jaringan andal, serta media digital modern.
Anda menggunakan ide‑ide Claude Shannon setiap kali mengirim teks, menonton video, atau bergabung ke Wi‑Fi. Bukan karena ponsel Anda “tahu Shannon,” tetapi karena sistem digital modern dibangun di sekitar janji sederhana: kita bisa mengubah pesan dunia nyata yang berantakan menjadi bit, mengirim bit itu melalui kanal yang tidak sempurna, dan tetap mendapatkan kembali konten asli dengan keandalan tinggi.
Teori informasi adalah matematika pesan: berapa banyak pilihan (ketidakpastian) yang dikandung sebuah pesan, seberapa efisien pesan itu dapat direpresentasikan, dan seberapa andal pesan itu dapat dikirim ketika kebisingan, interferensi, dan kemacetan ikut berperan.
Ada matematika di baliknya, tetapi Anda tidak perlu menjadi ahli matematika untuk menangkap intuisinya. Kita akan memakai contoh sehari‑hari—seperti mengapa beberapa foto lebih mudah dikompresi daripada yang lain, atau mengapa panggilan bisa terdengar bagus meski sinyal lemah—untuk menjelaskan ide‑ide tanpa rumus berat.
Artikel ini berputar di sekitar empat pilar terinspirasi Shannon yang muncul di teknologi modern:
Di akhir bacaan, Anda harus bisa berpikir jelas tentang tradeoff nyata: mengapa kualitas video yang lebih tinggi butuh bandwidth lebih banyak, mengapa “lebih banyak bar” sinyal tidak selalu berarti internet lebih cepat, mengapa beberapa aplikasi terasa instan sementara yang lain buffering, dan mengapa setiap sistem mencapai batas—terutama batas Shannon yang terkenal tentang berapa banyak data andal yang dapat dibawa sebuah kanal.
Pada 1948, matematikawan dan insinyur Claude Shannon memublikasikan sebuah makalah berjudul sederhana—A Mathematical Theory of Communication—yang diam‑diam mengubah cara kita memandang pengiriman data. Alih‑alih memperlakukan komunikasi sebagai seni, ia memandangnya sebagai masalah teknik: sebuah sumber menghasilkan pesan, sebuah kanal membawanya, kebisingan merusaknya, dan penerima berusaha merekonstruksi apa yang dikirim.
Langkah kunci Shannon adalah mendefinisikan informasi sehingga dapat diukur dan berguna untuk mesin. Dalam kerangka itu, informasi bukan tentang seberapa penting sebuah pesan terasa, apa artinya, atau apakah itu benar. Informasi adalah seberapa mengagetkan pesan itu—seberapa banyak ketidakpastian yang hilang ketika Anda mengetahui hasilnya.
Jika Anda sudah tahu apa yang akan terjadi, pesannya membawa hampir tidak ada informasi. Jika Anda benar‑benar tidak yakin, mengetahui hasilnya membawa lebih banyak.
Untuk mengukur informasi, Shannon mempopulerkan bit (singkatan dari binary digit). Bit adalah jumlah informasi yang dibutuhkan untuk menyelesaikan ketidakpastian ya/tidak.
Contoh: Jika saya bertanya “Apakah lampu menyala?” dan Anda tidak tahu sebelumnya, jawaban (ya atau tidak) dapat dianggap menyampaikan 1 bit informasi. Banyak pesan nyata bisa dipecah menjadi urutan panjang pilihan biner seperti ini, itulah sebabnya segala sesuatu dari teks hingga foto hingga audio dapat disimpan dan dikirim sebagai bit.
Artikel ini fokus pada intuisi praktis di balik ide‑ide Shannon dan mengapa mereka muncul di mana‑mana: kompresi (membuat berkas lebih kecil), koreksi kesalahan (memperbaiki korupsi), keandalan jaringan (pengiriman ulang dan throughput), dan kapasitas kanal (seberapa cepat Anda bisa mengirim data melalui tautan yang bising).
Yang tidak akan dilakukan adalah menelusuri bukti‑bukti berat. Anda tidak perlu matematika lanjutan untuk memahami intinya: setelah Anda bisa mengukur informasi, Anda bisa merancang sistem yang mendekati efisiensi terbaik—sering kali cukup dekat dengan batas teoretis yang Shannon gambarkan.
Sebelum membicarakan entropi, kompresi, atau koreksi kesalahan, ada baiknya menetapkan beberapa istilah sehari‑hari. Ide Shannon lebih mudah dipahami ketika Anda bisa menamai bagiannya.
Sebuah simbol adalah satu “token” dari himpunan yang disepakati. Himpunan itu adalah alfabet. Dalam teks bahasa Inggris, alfabetnya bisa huruf (ditambah spasi dan tanda baca). Dalam berkas komputer, alfabetnya bisa nilai byte 0–255.
Sebuah pesan adalah urutan simbol dari alfabet itu: sebuah kata, kalimat, file foto, atau aliran sampel audio.
Untuk tetap konkret, bayangkan alfabet kecil: {A, B, C}. Sebuah pesan bisa berupa:
A A B C A B A ...
Sebuah bit adalah digit biner: 0 atau 1. Komputer menyimpan dan mengirim bit karena perangkat keras bisa membedakan dua keadaan secara andal.
Sebuah kode adalah aturan untuk merepresentasikan simbol menggunakan bit (atau simbol lain). Misalnya, dengan alfabet {A, B, C}, salah satu kode biner mungkin:
Sekarang pesan apa pun yang terbuat dari A/B/C bisa diubah menjadi aliran bit.
Istilah‑istilah ini sering tercampur:
Pesan nyata tidak acak sepenuhnya: beberapa simbol muncul lebih sering daripada yang lain. Misalnya A terjadi 70% waktu, B 20%, C 10%. Skema kompresi yang baik biasanya memberi pola bit lebih pendek ke simbol umum (A) dan yang lebih panjang ke simbol langka (C). Ketidakseimbangan frekuensi itulah yang nanti akan dikuantifikasi dengan entropi.
Ide paling terkenal Shannon adalah entropi: cara mengukur berapa banyak “kejutan” yang ada dalam sumber informasi. Bukan kejutan sebagai emosi—melainkan kejutan sebagai ketidakpastian. Semakin tak terduga simbol berikutnya, semakin banyak informasi yang dibawanya ketika muncul.
Bayangkan Anda menonton lemparan koin.
Pembingkaian “kejutan rata‑rata” ini cocok dengan pola sehari‑hari: berkas teks dengan banyak spasi dan kata umum lebih mudah diprediksi daripada berkas karakter acak.
Kompresi bekerja dengan memberi kode lebih pendek ke simbol umum dan kode lebih panjang ke simbol langka. Jika sumbernya mudah diprediksi (entropi rendah), Anda bisa sering menggunakan kode pendek dan menghemat ruang. Jika mendekati acak (entropi tinggi), sedikit ruang untuk menyusut karena tidak ada yang muncul cukup sering untuk dieksploitasi.
Shannon menunjukkan bahwa entropi menetapkan tolok ukur konseptual: ia adalah batas bawah terbaik pada jumlah rata‑rata bit per simbol yang dapat Anda capai saat mengkodekan data dari sumber itu.
Penting: entropi bukan algoritma kompresi. Ia tidak memberi tahu tepat bagaimana mengompresi berkas. Ia memberi tahu apa yang mungkin secara teoretis—dan ketika Anda sudah mendekati batas itu.
Langkah kunci Shannon adalah mendefinisikan informasi sebagai ketidakpastian yang berkurang, bukan sebagai makna atau pentingnya pesan. Itu membuat informasi dapat diukur, sehingga insinyur dapat merancang sistem yang:
Sebuah bit adalah jumlah informasi yang dibutuhkan untuk menyelesaikan ketidakpastian ya/tidak. Perangkat digital bisa membedakan dua keadaan secara andal, jadi banyak jenis data bisa diubah menjadi urutan panjang 0 dan 1 (bit) dan diperlakukan secara seragam untuk penyimpanan dan transmisi.
Entropi adalah ukuran ketidakpastian rata‑rata dari suatu sumber. Ia penting karena ketidakpastian memprediksi kemampuan kompresi:
Entropi bukanlah algoritma kompresi; ia adalah tolok ukur apa yang mungkin dicapai rata‑rata.
Kompresi mengurangi ukuran dengan memanfaatkan pola dan frekuensi simbol yang tidak merata.
Teks, log, dan grafik sederhana sering terkompresi baik; data terenkripsi atau yang sudah dikompresi biasanya hampir tidak berkurang.
Encoding hanyalah mengubah data ke representasi yang disepakati (mis. UTF‑8, pemetaan simbol ke bit).
Kompresi adalah encoding yang mengurangi jumlah bit rata‑rata dengan memanfaatkan pola.
Enkripsi mengacak data dengan kunci untuk kerahasiaan; biasanya membuat data tampak acak, sehingga malah menyulitkan kompresi.
Karena kanal dan media penyimpanan tidak sempurna. Gangguan, sinyal lemah, keausan perangkat, dan efek lain bisa membalik bit. Insinyur menambahkan redundansi agar penerima bisa:
Data "ekstra" itu yang membeli keandalan.
Deteksi kesalahan memberi tahu Anda bahwa ada yang salah (umum saat pengiriman ulang masih mungkin, seperti paket internet).
Koreksi kesalahan memberi tahu Anda apa data aslinya (berguna saat pengiriman ulang mahal atau tidak mungkin, seperti streaming waktu nyata, satelit, atau penyimpanan).
Banyak sistem menggabungkan keduanya: deteksi cepat, koreksi lokal untuk beberapa kasus, dan retransmisi bila perlu.
Kapasitas kanal adalah laju maksimum (bit/detik) yang dapat Anda kirimkan dengan tingkat kesalahan yang dapat dibuat sedemikian kecilnya, mengingat kebisingan dan batas seperti bandwidth dan daya.
Batas Shannon adalah implikasi praktisnya:
Jadi indikator sinyal yang lebih baik tidak selalu berarti throughput lebih tinggi jika Anda sudah dekat batas lain (kemacetan, interferensi, pilihan pengkodean).
Jaringan memecah data menjadi paket dan memakai campuran:
Keandalan tidak gratis: retransmisi dan bit ekstra mengurangi throughput yang tersedia, terutama saat kemacetan atau kondisi nirkabel buruk.
Karena Anda menukar antara laju, keandalan, latensi, dan overhead:
Aplikasi streaming sering menyesuaikan bitrate dan proteksi berdasarkan kondisi Wi‑Fi/seluler yang berubah agar tetap pada titik tradeoff terbaik.
