O I n f o r m a c i j i : informacija u teoriji

Ožujak 7, 2014

Entropija i informacija – uvodno razmatranje…

BRIAN GREENE: Holografski univerzum // SKRIVENA STVARNOST

skrivena_stvarnostZašto je ideja holografskog univerzuma važna s informacijskog gledišta? Zato što se u njenoj srži nalazi upravo informacija! Kako je to moguće, objasnit će nam fizičar s MIT-a Brian Greene čije su popularno-znanstvene uspješnice o svemiru učinile da se njegove najskrovitije tajne čine razumljivima i čitateljima koji nisu studirali fiziku ili astronomiju.

Poglavlje svoje knjige o ideji holografskog univerzuma posvećeno, između ostalog i informaciji, Brian Greene započinje prisjećanjem na susret s pokojnim Johnom A. Wheelerom, teorijskim fizičarem, poznatim po izjavi It from bit:

“Jednom prilikom tijekom zajedničkog ručka na Princetonu 1998., pitao sam ga [Johna A. Wheelera] koja će tema po njegovu mišljenju dominirati fizikom u sljedećih nekoliko desetljeća. Pognuo je glavu, što je često činio tih dana pa se činilo da se njegovo ostarjelo tijelo umorilo od tereta tako impresivna intelekta. No tišina je potrajala toliko da sam se morao zapitati ne želi li on odgovoriti na pitanje ili je pak zaboravio da sam ga uopće nešto pitao. Tada je polako uspravio pogled i izgovorio jednu, jedinu riječ: “Informacije.”

Wheeler je predlagao da bi stvari – materija i zračenje – trebali biti od sekundarne važnosti, kao puki nosioci mnogo apstraktnijeg i temeljnijeg entiteta: informacije. On nije tvrdio da su materija i zračenje nešto iluzorno već je samo smatrao da bi se trebali promatrati kao materijalne manifestacije nečega još elementarnijeg.”

Prema takvu stavu, informacija bi bila ugrađena u “plan i nacrt projekta”, a svemir bi se iz te perspektive mogao promatrati kao procesor informacija.

S informacijom usko povezan pojam entropije, Greene definira kao “mjeru procijepa u informacijama između podataka koje imamo (ukupnih makroskopskih karakteristika) i onih koje nemamo (specifičan mikroskopski raspored sustava)”. Drugim riječima, “entropija je mjera mogućih promjena sastavnica nekog entiteta/sustava koje s makroskopskog gledišta prolaze nezapaženo.” Moram priznati da nigdje drugdje nisam naišao na u toj mjeri jasno i precizno objašnjenje ovog inače zakučastog pojma, poznatog iz područja termodinamike koji se javlja i kao jedan od glavnih protagonista Drugog zakona termodinamike. O entropiji, osim na Wikipediji, možete čitati i na sjajnom blogu Nagovor na filosofiju na kojem je njezin autor o spomenutom pojmu zapisao:

Entropija je zapravo … jedna funkcija broja mogućih mikroskopskih stanja koja ostvaruju dano makroskopsko stanje. Smjer termodinamičkih procesa je prema onom makroskopskom stanju koje je vjerojatnije, i to zato što je ostvarivo na više različitih mikroskopskih načina… Smjer termodinamičkih procesa je, dakle, prema većoj entropiji.

Da bi pojam entropije doveli u vezu s pojmom informacije, Brian Greene je posegnuo za očekivanim i pomalo ofucanim primjerom iz područja vjerojatnosti i statistike – bacanjem novčića. Zašto kažemo da je entropija tisuću novčića, razbacanih po podu, visoka? Zato što postoji mogućnost da načinimo veliki broj mikroskopskih radnji s novčićima (recimo, da ih okrenemo na suprotnu stranu), a da s makroskopskog gledišta to prođe nezapaženo. Gdje su tu informacije? Informacije su naravno sadržane u odgovarajućem popisu tipa ‘glava-pismo’ kojim želimo zapamtiti stranu na koju je pojedini novčić pao odnosno na koju je okrenut.  Međutim, upravo na tom mjestu Greene ubacuje u brzinu i rezonira na briljantan način za možda najdublje razumijevanje prirode informacije uopće

[Odgovarajući popis glava-pismo] … to bi mi samo pokazalo detalje konfiguracije… Zanima me koliko je informacija sadržano na tom popisu? Polako se počinjete premišljati. Što je zapravo informacija i što doista čini. Vaš je odgovor jednostavan i izravan. Informacija odgovara na pitanja [tipa DA-NE]. Godine i godine istraživanja matematičara, fizičara i informatičara precizirale su ovaj zaključak. [Nadalje] podatak koji može odgovoriti na jedno pitanje tipa DA-NE naziva se bit… Zapravo, riječ je o kratici za [binarni broj] (binary digit) koji može označavati 1 ili 0 kao brojčane oznake za odgovore DA i NE.

Ako entropiju sada definiramo, ne kao mjeru, već konkretan broj mogućih promjena sustava, u ovom slučaju sustava ’tisuću novčića’, koji ne dovode do značajnije izmjene njegovog makroskopskog izgleda, shvatit ćemo da taj broj iznosi točno 1000 jer se zapravo radi o kaotičnom sustavu, sustavu u kojem se mikroskopske promjene uopće ne zamjećuju. Međutim i broj stavki na popisu kojim smo željeli zabilježiti ishod svakog padanja novčića (glava ili pismo) također iznosi 1000. Primjećujemo da su vrijednosti entropije i količine (skrivenih) informacija u sustavu ’tisuću novčića’ – jednake. To nije slučajno. Na neki način, zaključuje Greene, možemo reći da je entropija mjera sadržaja skrivenih informacija u sustavu.

Ožujak 1, 2013

Novi medij za novu prirodu ljudskog mišljenja

JAMES GLEICK: The Information: A History, a Theory, a Flood (2011)

Every new medium transforms the nature of human thought. In the long run, history is the story of information becoming aware of itself.

theinformationKnjiga Jamesa Gleicka odjevena je u drugačije, znanstveno-popularno ruho, ali po informativnosti ne zaostaje za knjigom Marca Burgina. Riječ je o autoru koji iza sebe već posjeduje jednu mega znanstveno-popularnu uspješnicu – knjigu o kaosu odnosno teoriji kaosa. Ali i ovoga puta odlučio je priču o jednom intrigantnom fenomenu današnjice (informaciji) ispričati opušteno, daleko od svake strogosti kojoj uobičajeno robuju teorije o istom. Primjerice, spominjući Clauda Elwooda Shannona, tvorca ‘informacijske teorije’, ne bi propustio ukazati i na njegovu sklonost slušanju jazz glazbe, ili stidljivom flertovanju s mladom znanstvenicom iz Istraživačke skupine za mikrovalove Bell laboratorija (u čijem je časopisu na kraju i objavio svoj epohalni rad*). Ali, što ćete, takvo vam je ‘ruho’ znanstveno-popularnog pisanja!

Upravo, u prologu knjige Gleick puno prostora posvećuje ovom inženjeru telekomunikacija za kojeg piše da je za vrijeme rata radio na kriptografiji X Sistema (X System), odnosno održavanju „vruće“ telefonske linije između Churchilla i Roosvelta. ‘Otac’ ‘informacijske teorije’ ‘seciran’ je ne samo na psihološkom planu. Navodi se da je zajedno s Vanevarom Bushom radio na njegovom stroju Diferencijalnom analizatoru. Osim toga, Shannonova doktorska disertacija bavi se primjenom Booleove logike na elektroničke krugove što nije tako daleko od područja kojem će se Shannon uskoro potpuno posvetiti. 1943., piše Gleick, događa se povijesni susret Shannona i Alana Turinga. U neku ruku, saznajemo kako su se svi ti momci, ‘upetljani’ oko informacije tijekom, danas, dalekih 1940-ih, međusobno poznavali. U to doba, Shannon održava odnos i sa Norbertom Wienerom koji će uskoro predložiti naziv kibernetika za znanost o upravljanju i komunikaciji. Naposljetku, pojam informacije, rezimira Gleick u prologu, uvedena je u znanost kao što je to Isaac Newton učinio s pojmovima gibanja, sile i mase. Osim toga, Shannonova teorija izgradila je most između informacije i neodređenosti, informacije i entropije te informacije i kaosa.

Sam početak prologa Gleick započinje osvrtom na dva ključna događaja koja su se dogodila 1948. Jedan je bio izum tranzistora od strane, naravno, opet Bell laboratorija, koji će veličinu tadašnjih računala (koji su znali zauzimati čitave sobe) dramatično smanjiti na razumnu mjeru (a kojom se otprilike susrećemo i danas). Međutim, za isti izum Gleick će ustvrditi:

…[to je] bio samo drugi po redu važan znanstveni događaj te godine. Tranzistor je samo hardver.

Drugi se događaj, naravno, odnosio na objavu Shannonovog epohalnog rada.*

U uvodu svoje knjige, Gleick nastoji ići dalje od prikaza načina na koji su na informaciju gledali pioniri njezina proučavanja. Na jednom mjestu citira Wernera Loewensteina za kojeg fenomen informacije „podrazumijeva kozmički princip organizacije i reda te osiguranje načina njihovog mjerenja“. „Što leži u srcu svakog života … jest informacija, riječi, instrukcije…“ kaže pak ‘memolog’ Richard Dawkins.

Geni imaju svoju kulturnu analogiju – meme. Meme su replikatori i propagatori… ideja… i konspiracijskih teorija.

Ali ako se u igru mogu uvesti ‘meme’, mogu i neke druge ‘čestice’ nevažno kojeg oblika, recimo, infomi. Na ovaj način, primjerice, može razmišljati jedan, u znanstvenom smislu, ratoborni znanstvenik koji je odista spreman kročiti u neistraženo. A za njega, onda, teorija postaje bezgranično područje mogućega…

Za kraj prvog osvrta na Gleickovu knjigu, posebno se zanimljivom čini izjava fizičara Johna Archibalda Wheelera koji za informaciju tvrdi da „daje poticaj rastu svakom dijelu, svakom polju sile, čak i kontinumu prostorvremena.“, nakon koje zagonetno zaključuje: „Mi ćemo naučiti razumjeti i izraziti cijelu fiziku na jeziku informacije.“ Drugim riječima, pridodaje Gleick za sam kraj uvoda, „izum svakog novog medija transformira i prirodu ljudskog mišljenja“.

* U časopisu The Bell System Technical Journal objavljen je članak Claude Shannona „Matematička teorija komunikacije“ (A Mathematical Theory of Communication)

Napravi besplatnu web stranicu ili blog na WordPress.com.

%d bloggers like this: