'' umjetna inteligencija počinje se otimati kontroli? Korisnici virtualne asistentice Alexe izbezumljeni: 'Postoji velika šansa da ću noćas biti ubijen' ''

Oh_Femder wrote:

slidingdoorsoperator wrote:
Sa dosadašnjim znanjem o toj temi možemo slobodno zaključiti kako je ovdje riječ o debelom i potpuno nerealnom pretjerivanju.

Svaka ti mašina može doći glave ako se ne paziš, a kad se radi o mašinama koje barataju logikom, opasnost je tim veća. Druga je stvar da je uvjerenje kako će pukom logikom algoritama mašine postati samosvjesne, ipak malo prenaivno. Ljudska svijest nije produkt algoritama, što je danas gotovo sigurno, samo što zagovornici jake AI ne žele otvoriti oči.

Upravo sam to imao na umu kada sam napisao gornju rečenicu.

slidingdoorsoperator wrote:

Oh_Femder wrote:

slidingdoorsoperator wrote:Sa dosadašnjim znanjem o toj temi možemo slobodno zaključiti kako je ovdje riječ o debelom i potpuno nerealnom pretjerivanju.

Svaka ti mašina može doći glave ako se ne paziš, a kad se radi o mašinama koje barataju logikom, opasnost je tim veća. Druga je stvar da je uvjerenje kako će pukom logikom algoritama mašine postati samosvjesne, ipak malo prenaivno. Ljudska svijest nije produkt algoritama, što je danas gotovo sigurno, samo što zagovornici jake AI ne žele otvoriti oči.

Upravo sam to imao na umu kada sam napisao gornju rečenicu.

Tesla je smatrao da će ljudi jednog dana biti sposobni stvarati svijest. To što se to ne može algoritmima, ne znači da se uopće ne može. Možda jednog lijepog (ili ružnog, teško je reći) dana i to dođe na red.

Oh_Femder wrote:

slidingdoorsoperator wrote:

Oh_Femder wrote:

slidingdoorsoperator wrote:Sa dosadašnjim znanjem o toj temi možemo slobodno zaključiti kako je ovdje riječ o debelom i potpuno nerealnom pretjerivanju.

Svaka ti mašina može doći glave ako se ne paziš, a kad se radi o mašinama koje barataju logikom, opasnost je tim veća. Druga je stvar da je uvjerenje kako će pukom logikom algoritama mašine postati samosvjesne, ipak malo prenaivno. Ljudska svijest nije produkt algoritama, što je danas gotovo sigurno, samo što zagovornici jake AI ne žele otvoriti oči.

Upravo sam to imao na umu kada sam napisao gornju rečenicu.

Tesla je smatrao da će ljudi jednog dana biti sposobni stvarati svijest. To što se to ne može algoritmima, ne znači da se uopće ne može. Možda jednog lijepog (ili ružnog, teško je reći) dana i to dođe na red.

Možda. Međutim bojim se da će proći jako dugo vremena prije nego mi dosmislimo neka efektivna nealgoritamska rješenja u tom smislu.
Za sada smo čak i na razini čistog koncepta jako daleko od toga što pokazuje i ogromna energija koju bezuspješno troši veliki broj mislilaca, prije svega filozofa, kako bi dokazali da je u naš um u konačnici čisto algoritamski fenomen.
Nismo zapravo dalje odmakli od priznanja nekih (Penrose) da se tu ipak mora razmotriti opcija da postoje nealgoritamski temelji uma. O samim tim temeljima za sada nema nekih značajnijih naznaka, a kamoli gotovih riješenja.
Kada stvari već stoje tako kako stoje, teško je zamisliti scenarij koji spominješ, makar nitko razuman neće isključiti mogućnost da se i ostvari.

slidingdoorsoperator wrote:

Oh_Femder wrote:

slidingdoorsoperator wrote:

Oh_Femder wrote:

slidingdoorsoperator wrote:Sa dosadašnjim znanjem o toj temi možemo slobodno zaključiti kako je ovdje riječ o debelom i potpuno nerealnom pretjerivanju.

Svaka ti mašina može doći glave ako se ne paziš, a kad se radi o mašinama koje barataju logikom, opasnost je tim veća. Druga je stvar da je uvjerenje kako će pukom logikom algoritama mašine postati samosvjesne, ipak malo prenaivno. Ljudska svijest nije produkt algoritama, što je danas gotovo sigurno, samo što zagovornici jake AI ne žele otvoriti oči.

Upravo sam to imao na umu kada sam napisao gornju rečenicu.

Tesla je smatrao da će ljudi jednog dana biti sposobni stvarati svijest. To što se to ne može algoritmima, ne znači da se uopće ne može. Možda jednog lijepog (ili ružnog, teško je reći) dana i to dođe na red.

Možda. Međutim bojim se da će proći jako dugo vremena prije nego mi dosmislimo neka efektivna nealgoritamska rješenja u tom smislu.
Za sada smo čak i na razini čistog koncepta jako daleko od toga što pokazuje i ogromna energija koju bezuspješno troši veliki broj mislilaca, prije svega filozofa, kako bi dokazali da je u naš um u konačnici čisto algoritamski fenomen.
Nismo zapravo dalje odmakli od priznanja nekih (Penrose) da se tu ipak mora razmotriti opcija da postoje nealgoritamski temelji uma. O samim tim temeljima za sada nema nekih značajnijih naznaka, a kamoli gotovih riješenja.
Kada stvari već stoje tako kako stoje, teško je zamisliti scenarij koji spominješ, makar nitko razuman neće isključiti mogućnost da se i ostvari.

Crvu C. Elegans su u potpunosti skinuli shemu spoja neuron i uprogramirali u kompjutor. Rezultat: jedno veliko ništa. Tu se očito daleko više događa. Stuart Hameroff smatra da su microtubule ključ.

Ovo je vrlo dobro predavanje:

Oh_Femder wrote:
Stuart Hameroff smatra da su microtubule ključ.

Hameroff- Penrose Orch-OR theory je u posljednje vrijeme dosta popularno objašnjenje u nekim krugovima, ali sa kastastrofalno lošim biološkim predviđanjima, a znamo što se čini sa teorijom koja ne daje dobra predviđanja. Dakle, za sada ništa konkretno ni od takvih objašnjenja, makar mnogi misle da je to pravac u kojem treba ići dalje.

slidingdoorsoperator wrote:

Oh_Femder wrote:
Stuart Hameroff smatra da su microtubule ključ

Hameroff- Penrose Orch-OR theory je u posljednje vrijeme dosta popularno objašnjenje u nekim krugovima, ali sa kastastrofalno lošim biološkim predviđanjima, a znamo što se čini sa teorijom koja ne daje dobra predviđanja. Dakle, za sada ništa konkretno ni od takvih objašnjenja, makar mnogi misle da je to pravac u kojem treba ići dalje.

U svakom slučaju je bolje od ovog gotovo vulgarnog materijalizma koji za sada još uvijek prevladava u znanosti po tom pitanju.

Oh_Femder wrote:vulgarnog materijalizma koji za sada još uvijek prevladava u znanosti po tom pitanju.

Oh_Femder wrote:

slidingdoorsoperator wrote:

Oh_Femder wrote:
Stuart Hameroff smatra da su microtubule ključ

Hameroff- Penrose Orch-OR theory je u posljednje vrijeme dosta popularno objašnjenje u nekim krugovima, ali sa kastastrofalno lošim biološkim predviđanjima, a znamo što se čini sa teorijom koja ne daje dobra predviđanja. Dakle, za sada ništa konkretno ni od takvih objašnjenja, makar mnogi misle da je to pravac u kojem treba ići dalje.

U svakom slučaju je bolje od ovog gotovo vulgarnog materijalizma koji za sada još uvijek prevladava u znanosti po tom pitanju.

Teško se oteti dojmu da kvantna mehanika i dalje daje puno bolja objašnjenja od klasične fizike, ali je problem u tome da je takav stav već postao pomalo i mit pa se na qm objašnjenima ustraje i tamo gdje do sada i nije davala dobra objašnjenja.
Naime, kvaka je u tome da fenomeni kao što su svijest, slobodna volja i um u cjelini funkcioniraju po principu emergencije odnosno kao sustavi pri čemu na razini sustava vrijede neka drugačija pravila od onih na razini elemenata i podsustava, a qm se do sada tu nije pokazala dovoljno potentnom zato jer proučava samo onu temeljnu razinu stvarnosti.
Nada je da ćemo spoznajom tih temeljnih procesa uspjeti nekako shvatiti kako funkcionira sustav u cjelini, ali je jasno kako to u najmanju ruku uopće neće biti lagan zadatak.
No, jasno je da nam nisu neophodne spoznaje sa te temeljne razine da bismo riješili baš sve probleme, jer primjerice još nemamo mogućnost prodora energijom u gabarite Planckove duljine pa smo odgovorili na puno pitanja iz područja kvantne mehanike, dakle, može se i na taj način. Druga je priča što bi nam nova tehnologija koja bi nam omogućila takve prodore jako olakšala posao.
Bojim se da će se taj kvantno-mehanički odnosno pristup funkcioniranja uma kao kvantnog računala u konačnici pokazati jako teškim za spoznaju kako zapravo funkcionira um skupa sa svojim bitnim dijelovima, ali je problem u tome da znanost ovdje jednostavno nema dovoljno kreativnosti i mašte pa se nastoji kretati do sada jako dobro isprobanim putevima koji su uvijek dovodili do cilja, makar nema garancija kako će to opet pokazati točnim.

slidingdoorsoperator wrote:

Oh_Femder wrote:

slidingdoorsoperator wrote:

Oh_Femder wrote:
Stuart Hameroff smatra da su microtubule ključ

Hameroff- Penrose Orch-OR theory je u posljednje vrijeme dosta popularno objašnjenje u nekim krugovima, ali sa kastastrofalno lošim biološkim predviđanjima, a znamo što se čini sa teorijom koja ne daje dobra predviđanja. Dakle, za sada ništa konkretno ni od takvih objašnjenja, makar mnogi misle da je to pravac u kojem treba ići dalje.

U svakom slučaju je bolje od ovog gotovo vulgarnog materijalizma koji za sada još uvijek prevladava u znanosti po tom pitanju.

Teško se oteti dojmu da kvantna mehanika i dalje daje puno bolja objašnjenja od klasične fizike, ali je problem u tome da je takav stav već postao pomalo i mit pa se na qm objašnjenima ustraje i tamo gdje do sada i nije davala dobra objašnjenja.
Naime, kvaka je u tome da fenomeni kao što su svijest, slobodna volja i um u cjelini funkcioniraju po principu emergencije odnosno kao sustavi pri čemu na razini sustava vrijede neka drugačija pravila od onih na razini elemenata i podsustava, a qm se do sada tu nije pokazala dovoljno potentnom zato jer proučava samo onu temeljnu razinu stvarnosti.
Nada je da ćemo spoznajom tih temeljnih procesa uspjeti nekako shvatiti kako funkcionira sustav u cjelini, ali je jasno kako to u najmanju ruku uopće neće biti lagan zadatak.
No, jasno je da nam nisu neophodne spoznaje sa te temeljne razine da bismo riješili baš sve probleme, jer primjerice još nemamo mogućnost prodora energijom u gabarite Planckove duljine pa smo odgovorili na puno pitanja iz područja kvantne mehanike, dakle, može se i na taj način. Druga je priča što bi nam nova tehnologija koja bi nam omogućila takve prodore jako olakšala posao.
Bojim se da će se taj kvantno-mehanički odnosno pristup funkcioniranja uma kao kvantnog računala u konačnici pokazati jako teškim za spoznaju kako zapravo funkcionira um skupa sa svojim bitnim dijelovima, ali je problem u tome da znanost ovdje jednostavno nema dovoljno kreativnosti i mašte pa se nastoji kretati do sada jako dobro isprobanim putevima koji su uvijek dovodili do cilja, makar nema garancija kako će to opet pokazati točnim.

Inače, što se Penrosea tiče, taj je zmotan ko sajla, ako ne i gore :P Ašpergerovac? Razlog zašto ga mainstream ne puši je taj što im takve ideje previše smrde na kreacionizam i inteligentni dizajn. A da se imaju čega bojati od religioznih fanatika kojima je to vječni šlager, imaju. Jer prije nego što si rekao keks, Zemlja je ravna ploča a fundamentalisti ionako jedva čekaju da krenu masovne lomače, i slična zabava. 

Što se Planckove duljine i Planckovog vremena tiče, tu sam uvjeren da su vrijeme i prostor na neki način kvantizirani. Inače zec nikad ne bi mogao prestići kornjaču ;P Istina je da je od 10^-18 sekundi koliko se sada može mjeriti dalek, dalek put do 10^-44 sekundi, ali to samo po sebi ne znači da nije moguće usavršiti aparaturu u neko dogledno vrijeme. Pitanje je pak druge vrste: kamo sve to vodi? Pa očito je poanta u tome da čovjek kroz znaje ovlada prirodom, drugim riječima, da se približi bogu ili da i sam postane bog, a priče sa samog početka biblije upozoravaju što je onda za očekivati ;P

Moraš biti posevna vrsta hipsterske budale ako ti život ovisi o raznim Sirijima, Cortanama i Alexama. Lol ljenoguzi retardirani milenijalci na aparatima.

catabbath wrote:Moraš biti posevna vrsta hipsterske budale ako ti život ovisi o raznim Sirijima, Cortanama i Alexama. Lol ljenoguzi retardirani milenijalci na aparatima.

tamagotchi.

Oh_Femder wrote:
Razlog zašto ga mainstream ne puši je taj što im takve ideje previše smrde na kreacionizam i inteligentni dizajn. A da se imaju čega bojati od religioznih fanatika kojima je to vječni šlager, imaju. Jer prije nego što si rekao keks, Zemlja je ravna ploča a fundamentalisti ionako jedva čekaju da krenu masovne lomače, i slična zabava. 

Što se Planckove duljine i Planckovog vremena tiče, tu sam uvjeren da su vrijeme i prostor na neki način kvantizirani. Inače zec nikad ne bi mogao prestići kornjaču ;P Istina je da je od 10^-18 sekundi koliko se sada može mjeriti dalek, dalek put do 10^-44 sekundi, ali to samo po sebi ne znači da nije moguće usavršiti aparaturu u neko dogledno vrijeme. Pitanje je pak druge vrste: kamo sve to vodi? Pa očito je poanta u tome da čovjek kroz znaje ovlada prirodom, drugim riječima, da se približi bogu ili da i sam postane bog, a priče sa samog početka biblije upozoravaju što je onda za očekivati ;P

Pa i Einsteinu je hipoteza o prvobitnom atomu odnosno kasnije Teorija velikog praska previše smrdila na kreaciju opisanu u Bibliji pa ju zato nije lako prihvatio bez obzira što se zapravo temelji na njegovoj Općoj teoriji relativnosti.
No, činjenice su ga jednostavno nadjačale i tu nije mogao ništa učiniti.
Je, znam da ima fundamentalista koji željno iščekuju lomače, ali će ih teško dočekati, svakako ne u nekoj većoj mjeri, zato jer su se vremena promjenila i nema dovoljno budala koji bi progutali takve priče.
Kamo vodi prodor u Planckove vrijednosti?
Pa novim spoznajama o temeljnoj prirodi i ustroju stvarnosti i to do one razine u kojoj promatranje uopće ima fizikalnog smisla, jer dublje od toga ne možemo uopće eksperimentalno prodrijeti, a matematički modeli su ipak samo matematički modeli. Matematika najnormalnije barata beskonačnim vrijednosti, ali matematika je ionako samo formalna znanost za razliku od fizike koja je realna i zahtjeva eksperimantalnu potvrdu za razliku od matematike.
Pitanje poboljšanja aparature je zapravo samo pitanje vremena, ali ne treba biti naivan pa vjerovati kako će se takvo pojaviti sasvim skoro, jer je Hawking dobro rekao u jednoj od svojih knjiga kako bi na tadašnjem stupnju razvijenosti tehnologije akcelerator koji bi baratao potrebnim energijama za prodor u Planckove vrijednosti trebao biti gabarita otprilike kao od Zemlje do Sunca, što znači da je riječ o jako skupoj igri. Nebitno što je tu evidentno pretjerao.
Inače, da su prostor i vrijeme na neki način kvantizirani svjedoče upravo Planckove vrijednosti i oko toga mogu postojati samo neke beznačajne dileme filozofijskog tipa nebitne za fiziku.

slidingdoorsoperator wrote:

pismejker wrote:za neuke koji se ipak trude...

https://www.wired.com/2016/11/subtle-ways-digital-assistant-might-manipulate/

Ne uzimaj za ozbiljno sve što nađeš preko neta pogotovo kada je riječ o trivijalnim stvarima. AI je ipak u konačnici čisto algoritamsko odnosno isprogramirano (od strane čovjeka) riješenje, a svaki algoritam i program se daju provaliti i deprogramirati.
Inače, bez obzira na velike napore koje ulažu mnogi filozofi pa i znanstvenici, nitko nije uspio pronaći makar neko temeljno objašnjenje ljudskog uma kao algoritamskog fenomena pa je znameniti fizičar Roger Penrose zaključio kako je očito da tu postoje nealgoritamska objašnjenja koja nam zbog toga izmiču iz ruku.
I tu smo u debeloj prednosti ispred AI i sva je prilika da će tako i ostati, svakako još jako dugo vremena.

uopce ovdje ne pricamo o tome,nego cinjenici da se to od covjek isprogramirano u odredjenim izvedbama moze okrenuti protiv covjeka...ne znam kako to ljudi ne mogu shvatiti,ako je sustav otvoren za samoucenje i nadogradjivanje i po svom izboru moze odabirati ono sto zeli,a u konacnici i krenuti u smjeru koji ne ide na korist covjeka..
postoje vec poduze ideje o ovome,a vec i neki konkretni uraci..

https://www.tportal.hr/tehno/clanak/sto-su-to-kvantna-racunala-i-zasto-ce-promijeniti-svijet-20161201  

gdje sustav vise nije binaran,nego je otvoren i ima mogucnost samoodabira..cim sustav ima mogucnost samoodabira,to vise nije pod ljudskom kontrolom,niti reverzibilno niti u buduce..sustav se sam razvija,a dovoljno za to mu je samo da je spojeno na izvore informacija,recimo Internet..

pismejker wrote:
gdje sustav vise nije binaran,nego je otvoren i ima mogucnost samoodabira..cim sustav ima mogucnost samoodabira,to vise nije pod ljudskom kontrolom,niti reverzibilno niti u buduce..sustav se sam razvija,a dovoljno za to mu je samo da je spojeno na izvore informacija,recimo Internet..

To se često krivo razumije brkajući mogućnost odabira sa slobodnom voljom. Kvantna računala nemaju tih sposobnosti.
Sustav nije binaran zato jer se kvantna računala zasnivaju na kvantnim efektima odnosno zakonima kvantne mehanike i ne obrađuju podatke na način računanja u binarnom suatavu odnosno prepoznavanja nula i jedinica kao nositelja podataka.
No, kako sam već rekao i kvantna računala koriste algoritme, što znači da su rezultati njihovih obrada podataka također predvidivi u određenom rasponu riješenja. Algoritmi koje oni koriste su također korak po korak tipa kao i kod klasičnih računala koja koriste binarni brojevni sustav samo što je kod kvantnih riječ o uporabi kvantnih efekata za izvođenje računskih operacija.