BenMelek
New member
Hiç “bilinçli” biriyle konuştunuz mu? Bu konuşma nasıl geçti? İki eliyle havada belirsiz bir hareket mi yaptılar? Tao Te Ching’den mi yoksa Jean-Paul Sartre’dan mı bahsediyorlardı? Aslında bilim adamlarının emin olabileceği hiçbir şeyin olmadığını ve gerçekliğin ancak bizim hayal ettiğimiz kadar gerçek olduğunu mu söylediler?
Bilincin belirsizliği ve yanlışlığı doğa bilimleri alanındaki çalışmalarını lanetledi. En azından yakın zamana kadar proje büyük ölçüde, araştırmalarının konusunu açıklama konusunda diğerlerinden çok az daha iyi olan filozoflara bırakılmıştı. Columbia Üniversitesi’nden robot bilimci Hod Lipson, kendi alanındaki bazı kişilerin bilinçten “C-kelimesi” olarak söz ettiğini söyledi. New York Üniversitesi’nden sinir bilimci Grace Lindsay şunları söyledi: “Görev süreniz bitene kadar bilincin çalışılamayacağı fikri vardı.”
Bununla birlikte, birkaç hafta önce bir grup filozof, sinir bilimci ve bilgisayar bilimciden oluşan Dr. Lindsay, ChatGPT gibi bir yapay zeka sisteminin bilinçli olarak kabul edilip edilemeyeceğini belirlemek için kullanılabilecek bir değerlendirme tablosu sunuyor. Dr. Lindsay’in “yepyeni” bilinç bilimi olarak adlandırdığı şey, ortaya çıkan yarım düzine ampirik teoriden unsurları bir araya getiriyor ve bir makinede bazı varlıkların varlığına işaret edebilecek ölçülebilir niteliklerin bir listesini öneriyor.
Örneğin, yinelenen işlem teorisi, bilinçli algı (örneğin önünüzdeki bir elmaya aktif olarak bakmak) ile bilinçsiz algı (örneğin, yüzünüze doğru uçan bir elma hissetmek) arasındaki farklara odaklanır. Sinirbilimciler, gözlerimizdeki sinirlerden birincil görsel kortekse ve oradan da beynin daha derin bölgelerine elektrik sinyalleri iletildiğinde, bir sinir grubundan diğerine geçen bir cop gibi, şeyleri bilinçsizce algıladığımızı ileri sürmüşlerdir. Bu algılar, cop beynin daha derin kısımlarından birincil görsel kortekse aktarılarak bir faaliyet döngüsü yaratıldıkça bilinçli hale geliyor gibi görünüyor.
Başka bir teori, beynin belirli görevler için kullanılan belirli alanlarını tanımlar; beyninizin, üst ağır vücudunuzu bir zıplama çubuğu üzerinde dengeleyebilen kısmı, beyninizin genişleyen bir manzarayı alabilen kısmından farklıdır. Tüm bu bilgileri bir araya getirebiliyoruz (güzel bir manzaranın tadını çıkarırken bir zıplama çubuğunun üzerinde zıplayabilirsiniz), ancak yalnızca belirli bir dereceye kadar (bu zordur). Bu nedenle nörobilimciler, neye dikkat ettiğimizi, neyi hatırladığımızı, hatta neyi algıladığımızı kontrol etmeyi ve koordine etmeyi sağlayan “küresel bir çalışma alanının” varlığını öne sürdüler. Bilincimiz bu entegre, değişen çalışma alanından ortaya çıkabilir.
Ancak aynı zamanda kişinin kendi bilincinin farkında olma, dünyanın sanal modellerini yaratma, gelecekteki deneyimleri tahmin etme ve kişinin vücudunu uzayda konumlandırma yeteneğinden de kaynaklanabilir. Rapor, bu özelliklerin her birinin potansiyel olarak bilinçli olmanın ne anlama geldiğinin önemli bir parçası olabileceğini öne sürüyor. Ve eğer bir makinenin bu özelliklerini tanıyabilirsek, o makinenin bilinçli olduğunu düşünebiliriz.
Bu yaklaşımın zorluklarından biri, en gelişmiş yapay zeka sistemlerinin, işleri kendi başlarına insanlar tarafından her zaman yorumlanamayacak şekilde yapmayı “öğrenen” derin sinir ağları olmasıdır. İç yapılarından bazı bilgiler toplayabiliyoruz ama en azından şimdilik sınırlı ölçüde. Bu yapay zekanın kara kutu problemidir. Tam ve doğru bir bilinç değerlendirme listemiz olsa bile bunu her gün kullandığımız makinelere uygulamak zor olurdu.
Ve mevcut raporun yazarları, listelerinin insanı bilinçli kılan şeylerin kesin bir listesi olmadığını hemen fark ediyorlar. Bilincin, tıpkı bir tilt makinesi gibi bir sistem içinde ileri geri aktarılan bilgi parçacıklarına indirgendiği “bilgisayar işlevselliği” açıklamasına güveniyorlar. Prensipte bu görüşe göre tilt makinesi çok daha karmaşık hale getirildiğinde bilinçli olabilir. (Bu onun artık bir tilt makinesi olmadığı anlamına gelebilir; hadi o köprüye vardığımızda geçelim.) Ancak diğerleri biyolojik veya fiziksel özelliklerimizi, sosyal veya kültürel bağlamlarımızı bilincin temel parçaları olarak gören teoriler önerdiler. Bu şeylerin bir makineye nasıl kodlanabileceğini hayal etmek zor.
Ve hesaplamalı işlevselcilikle büyük ölçüde aynı fikirde olan araştırmacılar için bile mevcut bilinç teorilerinin hiçbiri yeterli görünmüyor.
“Raporun sonuçlarının anlamlı olması için teorilerin doğru olması gerekiyor” dedi Dr. Lindsay. “Ne değiller.” “Şu anda yapabileceğimiz en iyi şey bu olabilir” diye ekledi.
Son olarak, bu özelliklerden herhangi birinin veya hepsinin birlikte, William James’in bilinçli deneyimin “sıcaklığı” olarak tanımladığı şeyi oluşturduğu görülüyor mu? Veya Thomas Nagel’in deyişiyle: “Kendin olmak nasıl bir şey?” Bilimle öznel deneyimi ölçebilme şeklimiz ile öznel deneyimin kendisi arasında bir boşluk var. David Chalmers’ın “zor problem” dediği şey budur. bilincin. Bir yapay zeka sistemi tekrarlayan işlemlere, küresel bir çalışma alanına ve fiziksel konum algısına sahip olsa bile, onu harekete geçiren şey hâlâ eksikse ne olur? gibi hissediyorum bir şey?
Bu boşluğu, raporun çalışmasını yöneten Yapay Zeka Güvenliği Merkezi’ndeki filozof Robert Long’a getirdiğimde şöyle dedi: “Süreçleri bilimsel olarak veya fiziksel süreçlerin azalması açısından açıklamaya çalıştığınızda bu duygu ortaya çıkıyor.”, üst düzey bir kavram.”
Tehlikede olan çok şey var, diye ekledi; Yapay zeka ve makine öğrenimindeki ilerlemeler, olup biteni açıklama yeteneğimizden daha hızlı ilerliyor. 2022’de Google’da mühendis olan Blake Lemoine, şirketin LaMDA sohbet robotunun bilinçli olduğunu savundu (çoğu uzman aynı fikirde olmasa da); Üretken yapay zekanın hayatımıza daha fazla entegrasyonu, konunun daha tartışmalı hale gelebileceği anlamına geliyor. Dr. Long, neyin bilinçli olabileceğine dair bazı iddialarda bulunmaya başlamamız gerektiğini savunuyor ve bu konuda gittiğimiz “belirsiz ve sansasyonel” yoldan yakınıyor ve sıklıkla öznel deneyimi genel zeka veya rasyonellikle birleştiriyor. “Bu, şu anda ve önümüzdeki birkaç yılda karşı karşıya kalacağımız bir sorundur” dedi.
Irvine’deki Kaliforniya Üniversitesi’nden sinir bilimci ve raporun yazarı Megan Peters’ın belirttiği gibi: “Orada birinin olup olmaması, bununla nasıl başa çıkacağımız konusunda büyük bir fark yaratıyor.”
Bu tür araştırmaları zaten hayvanlar üzerinde yapıyoruz ve diğer türlerin bizimkine benzer deneyimlere sahip olduğu, hatta bizim için anlaşılabilir olduğu yönündeki en temel iddiayı ortaya koymak için dikkatli bir çalışma yapılması gerekiyor. Bu, bazen spagettiye dönüşen yaylarla şekil değiştiren hedeflere hareketli platformlardan ampirik oklar atmak gibi eğlenceli bir ev etkinliğine benzeyebilir. Ama bazen bir darbe alıyoruz. Peter Godfrey-Smith’in Metazoa adlı kitabında yazdığı gibi, kafadanbacaklılar muhtemelen güçlü fakat temelde insanlardan farklı türde bir öznel deneyime sahiptir. Ahtapotların her kolunda yaklaşık 40 milyon nöron bulunur. Bu nasıl?
Diğer zihinlerin bu sorununu çözmek için hem düzenli hem de organize olmayan bir dizi gözlem, çıkarım ve deneye güveniriz. Konuşuyoruz, dokunuyoruz, oynuyoruz, hipotezler kuruyoruz, yönlendiriyoruz, kontrol ediyoruz, röntgen çekiyoruz ve inceliyoruz ama sonuçta bizi neyin bilinçli yaptığını hala bilmiyoruz. Sadece öyle olduğumuzu biliyoruz.
Bilincin belirsizliği ve yanlışlığı doğa bilimleri alanındaki çalışmalarını lanetledi. En azından yakın zamana kadar proje büyük ölçüde, araştırmalarının konusunu açıklama konusunda diğerlerinden çok az daha iyi olan filozoflara bırakılmıştı. Columbia Üniversitesi’nden robot bilimci Hod Lipson, kendi alanındaki bazı kişilerin bilinçten “C-kelimesi” olarak söz ettiğini söyledi. New York Üniversitesi’nden sinir bilimci Grace Lindsay şunları söyledi: “Görev süreniz bitene kadar bilincin çalışılamayacağı fikri vardı.”
Bununla birlikte, birkaç hafta önce bir grup filozof, sinir bilimci ve bilgisayar bilimciden oluşan Dr. Lindsay, ChatGPT gibi bir yapay zeka sisteminin bilinçli olarak kabul edilip edilemeyeceğini belirlemek için kullanılabilecek bir değerlendirme tablosu sunuyor. Dr. Lindsay’in “yepyeni” bilinç bilimi olarak adlandırdığı şey, ortaya çıkan yarım düzine ampirik teoriden unsurları bir araya getiriyor ve bir makinede bazı varlıkların varlığına işaret edebilecek ölçülebilir niteliklerin bir listesini öneriyor.
Örneğin, yinelenen işlem teorisi, bilinçli algı (örneğin önünüzdeki bir elmaya aktif olarak bakmak) ile bilinçsiz algı (örneğin, yüzünüze doğru uçan bir elma hissetmek) arasındaki farklara odaklanır. Sinirbilimciler, gözlerimizdeki sinirlerden birincil görsel kortekse ve oradan da beynin daha derin bölgelerine elektrik sinyalleri iletildiğinde, bir sinir grubundan diğerine geçen bir cop gibi, şeyleri bilinçsizce algıladığımızı ileri sürmüşlerdir. Bu algılar, cop beynin daha derin kısımlarından birincil görsel kortekse aktarılarak bir faaliyet döngüsü yaratıldıkça bilinçli hale geliyor gibi görünüyor.
Başka bir teori, beynin belirli görevler için kullanılan belirli alanlarını tanımlar; beyninizin, üst ağır vücudunuzu bir zıplama çubuğu üzerinde dengeleyebilen kısmı, beyninizin genişleyen bir manzarayı alabilen kısmından farklıdır. Tüm bu bilgileri bir araya getirebiliyoruz (güzel bir manzaranın tadını çıkarırken bir zıplama çubuğunun üzerinde zıplayabilirsiniz), ancak yalnızca belirli bir dereceye kadar (bu zordur). Bu nedenle nörobilimciler, neye dikkat ettiğimizi, neyi hatırladığımızı, hatta neyi algıladığımızı kontrol etmeyi ve koordine etmeyi sağlayan “küresel bir çalışma alanının” varlığını öne sürdüler. Bilincimiz bu entegre, değişen çalışma alanından ortaya çıkabilir.
Ancak aynı zamanda kişinin kendi bilincinin farkında olma, dünyanın sanal modellerini yaratma, gelecekteki deneyimleri tahmin etme ve kişinin vücudunu uzayda konumlandırma yeteneğinden de kaynaklanabilir. Rapor, bu özelliklerin her birinin potansiyel olarak bilinçli olmanın ne anlama geldiğinin önemli bir parçası olabileceğini öne sürüyor. Ve eğer bir makinenin bu özelliklerini tanıyabilirsek, o makinenin bilinçli olduğunu düşünebiliriz.
Bu yaklaşımın zorluklarından biri, en gelişmiş yapay zeka sistemlerinin, işleri kendi başlarına insanlar tarafından her zaman yorumlanamayacak şekilde yapmayı “öğrenen” derin sinir ağları olmasıdır. İç yapılarından bazı bilgiler toplayabiliyoruz ama en azından şimdilik sınırlı ölçüde. Bu yapay zekanın kara kutu problemidir. Tam ve doğru bir bilinç değerlendirme listemiz olsa bile bunu her gün kullandığımız makinelere uygulamak zor olurdu.
Ve mevcut raporun yazarları, listelerinin insanı bilinçli kılan şeylerin kesin bir listesi olmadığını hemen fark ediyorlar. Bilincin, tıpkı bir tilt makinesi gibi bir sistem içinde ileri geri aktarılan bilgi parçacıklarına indirgendiği “bilgisayar işlevselliği” açıklamasına güveniyorlar. Prensipte bu görüşe göre tilt makinesi çok daha karmaşık hale getirildiğinde bilinçli olabilir. (Bu onun artık bir tilt makinesi olmadığı anlamına gelebilir; hadi o köprüye vardığımızda geçelim.) Ancak diğerleri biyolojik veya fiziksel özelliklerimizi, sosyal veya kültürel bağlamlarımızı bilincin temel parçaları olarak gören teoriler önerdiler. Bu şeylerin bir makineye nasıl kodlanabileceğini hayal etmek zor.
Ve hesaplamalı işlevselcilikle büyük ölçüde aynı fikirde olan araştırmacılar için bile mevcut bilinç teorilerinin hiçbiri yeterli görünmüyor.
“Raporun sonuçlarının anlamlı olması için teorilerin doğru olması gerekiyor” dedi Dr. Lindsay. “Ne değiller.” “Şu anda yapabileceğimiz en iyi şey bu olabilir” diye ekledi.
Son olarak, bu özelliklerden herhangi birinin veya hepsinin birlikte, William James’in bilinçli deneyimin “sıcaklığı” olarak tanımladığı şeyi oluşturduğu görülüyor mu? Veya Thomas Nagel’in deyişiyle: “Kendin olmak nasıl bir şey?” Bilimle öznel deneyimi ölçebilme şeklimiz ile öznel deneyimin kendisi arasında bir boşluk var. David Chalmers’ın “zor problem” dediği şey budur. bilincin. Bir yapay zeka sistemi tekrarlayan işlemlere, küresel bir çalışma alanına ve fiziksel konum algısına sahip olsa bile, onu harekete geçiren şey hâlâ eksikse ne olur? gibi hissediyorum bir şey?
Bu boşluğu, raporun çalışmasını yöneten Yapay Zeka Güvenliği Merkezi’ndeki filozof Robert Long’a getirdiğimde şöyle dedi: “Süreçleri bilimsel olarak veya fiziksel süreçlerin azalması açısından açıklamaya çalıştığınızda bu duygu ortaya çıkıyor.”, üst düzey bir kavram.”
Tehlikede olan çok şey var, diye ekledi; Yapay zeka ve makine öğrenimindeki ilerlemeler, olup biteni açıklama yeteneğimizden daha hızlı ilerliyor. 2022’de Google’da mühendis olan Blake Lemoine, şirketin LaMDA sohbet robotunun bilinçli olduğunu savundu (çoğu uzman aynı fikirde olmasa da); Üretken yapay zekanın hayatımıza daha fazla entegrasyonu, konunun daha tartışmalı hale gelebileceği anlamına geliyor. Dr. Long, neyin bilinçli olabileceğine dair bazı iddialarda bulunmaya başlamamız gerektiğini savunuyor ve bu konuda gittiğimiz “belirsiz ve sansasyonel” yoldan yakınıyor ve sıklıkla öznel deneyimi genel zeka veya rasyonellikle birleştiriyor. “Bu, şu anda ve önümüzdeki birkaç yılda karşı karşıya kalacağımız bir sorundur” dedi.
Irvine’deki Kaliforniya Üniversitesi’nden sinir bilimci ve raporun yazarı Megan Peters’ın belirttiği gibi: “Orada birinin olup olmaması, bununla nasıl başa çıkacağımız konusunda büyük bir fark yaratıyor.”
Bu tür araştırmaları zaten hayvanlar üzerinde yapıyoruz ve diğer türlerin bizimkine benzer deneyimlere sahip olduğu, hatta bizim için anlaşılabilir olduğu yönündeki en temel iddiayı ortaya koymak için dikkatli bir çalışma yapılması gerekiyor. Bu, bazen spagettiye dönüşen yaylarla şekil değiştiren hedeflere hareketli platformlardan ampirik oklar atmak gibi eğlenceli bir ev etkinliğine benzeyebilir. Ama bazen bir darbe alıyoruz. Peter Godfrey-Smith’in Metazoa adlı kitabında yazdığı gibi, kafadanbacaklılar muhtemelen güçlü fakat temelde insanlardan farklı türde bir öznel deneyime sahiptir. Ahtapotların her kolunda yaklaşık 40 milyon nöron bulunur. Bu nasıl?
Diğer zihinlerin bu sorununu çözmek için hem düzenli hem de organize olmayan bir dizi gözlem, çıkarım ve deneye güveniriz. Konuşuyoruz, dokunuyoruz, oynuyoruz, hipotezler kuruyoruz, yönlendiriyoruz, kontrol ediyoruz, röntgen çekiyoruz ve inceliyoruz ama sonuçta bizi neyin bilinçli yaptığını hala bilmiyoruz. Sadece öyle olduğumuzu biliyoruz.