YAPAY ZEKÂ VE ROBOTLARIN EYLEMLERİNDEN KAYNAKLANAN CEZAİ SORUMLULUK SORUNU

Son yıllarda yapay zekâya sahip teknolojilerin gelişmesinin hayatlarımızı öngörülemez bir şekilde değiştirdiği ortadadır. Günümüzde, robotik cerrahi ameliyatlarından, insana ihtiyaç duymaksızın hedeflenen noktaya erişebilen sürücüsüz araçlara kadar pek çok alanda kendisini gösteren yapay zekâ teknolojilerinin, yakın gelecekte kendilerini programlayarak özgür iradeleriyle karar verebilecekleri ve adeta “teknolojik devrim” gerçekleştirecekleri öngörülmektedir. Ancak diğer yandan söz konusu yapay zekâya sahip varlıkların suç olarak nitelendirilebilecek eylemlerde bulunmaları durumunda cezai sorumluluğun ne şekilde belirleneceği, klasik suç ve ceza teorilerinin konunun aydınlatılmasında yeterli olup olmayacağı problemleri ortaya çıkacaktır. Tüm bu nedenlerle makalemizde, öncelikle yapay zekânın ne olduğu, Uluslararası hukukta ve Türk hukukunda hukuki statülerinin ne şekilde değerlendirildiğine değinilecektir. Akabinde ise yapay zekâlı robotların ceza sorumluluklarının ne olacağı ile ilgili tartışmalar ceza hukukunun kast ve isnadiyet kavramları çerçevesinde ele alınacaktır.

___

  • AKBULUT, Berrin, “Ceza Hukuku Genel Hükümler”, 6.Baskı, Adalet Yayınevi, Eylül 2019.
  • “AKINCI TİHA savaş uçaklarının yükünü alacak”, TRT HABER, https://www.trthaber.com/ haber/bilim-teknoloji/akinci-tiha-savas-ucaklarinin-yukunu-alacak-509013.html (Erişim Tarihi: 24.02.2021).
  • “Alzheimer’a Erken Teşhis Koyan Yapay Zekâ” https://bilimgenc.tubitak. gov.tr/makale/alzheimera-erken-teshis-koyan-yapay-zeka.
  • “Amazon Scrapped 'Sexist AI' Tool” https://www.bbc.com/news/technology-45809919 (Erişim tarihi:14.10.2020).
  • “Artificial Intelligence based Automatic Decelerating Vehicle Control System to avoid Misfortunes” http://www.warse.org/IJATCSE/static/pdf/file/ijatcse75862019.pdf (Erişim Tarihi: 20.02.2021).
  • “Artificial Intelligence guidance for Unmanned Aerial Vehicles in three Dimensional Space”, International Conference on Contemporary Computing and Informatics Dergisi, 2014 yılı, https://ieeexplore.ieee.org/document/7019634 (Sınırlı erişim).
  • “Isaac Asimov’s Laws of Robotics Are Wrong” https://www.brookings.edu/opinions/isaac-asimovs-laws-of-robotics-are-wrong/ (Erişim Tarihi: 14.10.2020).
  • ASARO, M. Peter, “What Should We Want From a Robot Ethic?” International Review of Information Ethics-IRIE, s.13. http://peterasaro.org/writing/Asaro%20IRIE.pdf (Erişim Tarihi: 14.10.2020).
  • ATALAY, Muhammet; ÇELİK, Enes, "BÜYÜK VERİ ANALİZİNDE YAPAY ZEKÂ VE MAKİNE ÖĞRENMESİ UYGULAMALARI", Mehmet Akif Ersoy Üniversitesi Sosyal Bilimler Enstitüsü Dergisi, Cilt:9, Sayı:22, 2017.
  • AYDEMİR, Melis, “Yapay Zekalı Robotların Ceza Sorumluluklarının Araştırılması”, Suç ve Ceza Hukuku Dergisi 2018 Sayı: 4, Hakemli Makale, https://robotic.legal/wp-content/uploads/2019/05/YAPAY-ZEKALI-ROBOTLARIN-CEZASORUMLULUKLARI.pdf (Erişim Tarihi: 14.10.2020).
  • BALTA, K. Büşra, Fikir ve Sanat Eserleri Kanunun Kapsamında Eser Kavramı ve Yapay Zeka Ürünleri, Seçkin Yayınevi, Ankara, 2021.
  • BAYAMLIOĞLU, Emre, “Akıllı Yazılımlar ve Hukuki Statüsü: Yapay Zekâ ve Kişilik Üzerine Bir Deneme”, İstanbul Bilgi Üniversitesi Yayınları,İstanbul 2008.
  • BİRTEK, Fatih, “Ceza Hukuku Genel Hükümler”, 6.Baskı, Adalet Yayınevi, Ankara, 2018.
  • BOSTROM, Nick, ”Superintelligence: Paths, Dangers, Strategies”, Oxford: OUP, 2014, http://www.korin-consulting.com/pdf/NickBostrom_Superintelligence.pdf (Erişim Tarihi: 14.10.2020).
  • BOZKURT YÜKSEL, Armağan Ebru, “Robot Hukuku”, Türkiye Adalet Akademisi Dergisi -TAAD Yıl:7, Sayı:29 (Ocak 2017).
  • CAŞIN, Mesut Hakkı, “How will the use of unmanned aerial vehicle (UAV) and Artificial Intelligence (AI) in Aviation shape the future world?”, TASAM (Turkish Asian Center for Strategic Studies) (Yayım Tarihi: 24.02.2020), https://tasam.org/en/Icerik/53540/ how_will_the_use_of_unmanned_aerial_vehicle_uav_and_artificial_intelligence_ai_in_aviation_shape_the_future_world , (Erişim Tarihi: 14.10.2020).
  • “Chinese chatbots shut down after anti-government posts” https://www.bbc.com/news/ world-asia-china-40815024 (Erişim Tarihi: 14.10.2020).
  • CHOPRA, Samir, WHITE, Laurence, “Artificial Agents - Personhood in Law and Philosophy”, http://www.sci.brooklyn.cuny.edu/~schopra/agentlawsub.pdf (Erişim Tarihi:14.10.2020).
  • COHEN, M. Aaron, “World Future Review, An interview with Ray Kurzweil: inventor, bestselling author,WorldFuture2010 speaker” https://www.kurzweilai.net/interview-with-ray-kurzweil-world-future-2010-speaker. (Erişim Tarihi: 23.02.2020).
  • DEMİRCİ, Serdar, “Ürün Sorumluluk Sigortasına Sorumluluk Hukuku ve Genel Şartlar Çerçevesinde Güncel Bir Bakış”, Ankara Barosu Dergisi Sayı:3 (2019). https://dergipark.org.tr/tr/download/article-file/865560 (Erişim Tarihi: 14.10.2020).
  • Directorate - General for Justice and Consumers (European Commission), “Liability for artificial intelligence and other emerging digital Technologies”, Published: 2019-11-27, (https://op.europa.eu/en/publication-detail/-/publication/1c5e30be-1197-11ea-8c1f-01aa75ed71a1 (Erişim Tarihi; 30.06.2020).
  • DOĞAN, Koray, “Sürücüsüz Araçlar, Robotik Cerrahi, Endüstriyel Robotlar ve Cezai Sorumluluk”, Dokuz Eylül Üniversitesi Hukuk Fakültesi Dergisi, Prof. Dr. Durmuş TEZCAN’a Armağan, C.21, Özel Sayı 2019, https://hukuk.deu.edu.tr/wp-content/uploads/2019/09/KORAY-DOGAN.pdf (Erişim Tarihi: 14.10.2020).
  • “Do no harm, don't discriminate: official guidance issued on robot ethics” https://www.theguardian.com/technology/2016/sep/18/official-guidance-robot-ethics-british-standards-institute (Erişim Tarihi:14.10.2020).
  • EBERS, Martin, “Yapay Zekâ İçin Sözleşmeden Kaynaklanmayan Sorumluluk-Temel Sorunlar”, (çev.) Zehra Başer Doğan, Hukuk Köprüsü, Haziran 2019.
  • ERSOY, Çağlar, “Robotlar, Yapay Zeka ve Hukuk”, On İki Levha Yayıncılık, İstanbul 2018.
  • European Commission, “White Paper on Artificial Intelligence: a European approach to excellence and trust”, First published on 19 February 2020, (https://ec.europa.eu/info/ publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en (Erişim Tarihi: 14.10.2020).
  • “EU Parlıament Artificial Intelligence and Civil Liability” https://www.europarl.europa.eu/ RegData/etudes/STUD/2020/621926/IPOL_STU(2020)621926_EN.pdf. (Erişim Tarihi: 23.02.2021).
  • “European Parliament 2014-2019 Committee on Legal Affairs DRAFT REPORT with recommendations to the Commission on Civil Law Rules on Robotics”, https://www.europarl.europa.eu/doceo/document/JURI-PR-582443_EN.pdf?redirect (Erişim Tarihi: 14.10.2020).
  • Federal Automated Vehicles Policy, Accelerating the Next Revolution in Roadway Safety, USDOThttps://www.transportation.gov/sites/dot.gov/files/docs/AV%20policy%20guidance%20PDF.pdf
  • FIRAT, Oktay Zihni – FIRAT, Seniye Ümit, “Endüstri 4.0 Yolculuğunda Trendler ve Robotlar” İstanbul Üniversitesi İşletme Fakültesi Dergisi, Cilt: 46 Sayı:2, 2017, https://dergipark.org.tr/tr/download/article-file/448402 (Erişim Tarihi:14.10.2020).
  • FJELLAND, Ragnar, “Why general artificial intelligence will not be realized”, Humanit Soc Sci Commun 7, 10 (2020). https://doi.org/10.1057/s41599-020-0494-4
  • “Gelişmiş Face ID teknolojisi hakkında”, https://support.apple.com/tr-tr/HT208108 (Erişim Tarihi:14.10.2020).
  • GLESS, Sabine – SILVERMAN, Emily - WEIGEND, Thomas, “If Robots Cause Harm, Who Is to Blame? Self-Driving Cars and Criminal Liability”, New Criminal Law Review, University of California Press, https://nclr.ucpress.edu/content/19/3/412 (Erişim Tarihi: 14.10.2020).
  • “Global Legal Insights – AI, Machine Learning & Big Data” https://www.nkf.ch/app/uploads/2018/06/GLI-AIML19_Switzerland.pdf
  • Government of Netherlands, “Green light for Experimental Law for testing self-driving vehicles on public roads”, https://www.government.nl/latest/news/2019/07/02/green-light-for-experimental-law-for-testing-self-driving-vehicles-on-public-roads (Erişim Tarihi: 14.10.2020)
  • HAKERİ, Hakan, “Ceza Hukuku Genel Hükümler”, Adalet Yayınevi, Ankara 2017.
  • HALLEVY, Gabriel, “ The criminal Liability of Artificial Intelligence Entities - from Science Fiction to Legal Social Control”, Akron Intellectual Property Journal Hallevy s.116, https://ideaexchange.uakron.edu/cgi/viewcontent.cgi?article=1037&context=akronintellectualproperty (Erişim Tarihi: 14.10.2020)
  • HARVEY, Cynthia, “AI vs. Machine Learning vs. Deep Learning”, https://www.datamation.com/artificial-intelligence/ai-vs-machine-learning-vs-deep-learning.html (Erişim Tarihi:14.10.2020)
  • HEINRICH, Bernd, “Otonom Araç Sürmekte Olası Cezalandırılabilirlik Riskleri”, (çev.) Yener Ünver, Hukuk Köprüsü, Haziran 2019
  • HUMBER, A.B./DESHMUKH, P.A./KADAM, M.S., “The Review of Articulated R12 Robot and Its Industrial Applications”, International Journal of Research in Engineering & Technology, Vol.2, Issue 2, Feb 2014, http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.680.1822& rep=rep1&type=pdf(Erişim Tarihi: 14.10.2020).
  • “Infopapier: Gesetz zum autonomen Fahren” https://www.heise.de/downloads/18/2/9/9/3/9/5/6/Infopapier_Gesetz_autonomes_Fahren__Stand_30.10.2020_.pdf
  • International Organization for Standardization - ISO 8373 Definitions of “Robots and robotic devices”, https://www.iso.org/obp/ui/#iso:std:iso:8373:ed-2:v1:en:term:3.15.8 (Erişim Tarihi: 14.10.2020).
  • Internet Society, “Artificial Intelligence and Machine Learning: Policy Paper”, https://www.internetsociety.org/wp-content/uploads/2017/08/ISOC-AI-Policy-Paper_2017-04-27_0.pdf (Erişim Tarihi: 14.10.2020).
  • “Isaac Asimov’s Laws of Robotics Are Wrong” https://www.brookings.edu/opinions/isaac-asimovs-laws-of-robotics-are-wrong/ (Erişim Tarihi: 14.10.2020).
  • KARA KILIÇARSLAN, Seda, “Yapay Zekânın Hukuki Statüsü ve Hukuki Kişiliği Üzerine Tartışmalar”, Yıldırım Beyazıt Hukuk Dergisi, 2019.
  • KEIPER, SCHULMAN,“The Problem with ‘Friendly’ Artificial Intelligence”, https://www.thenewatlantis.com/publications/the-problem-with-friendly-artificial-intelligence (Erişim Tarihi: 14.10.2020).
  • “Herausforderungen der künstlichen Intelligenz”, Bericht der interdepartementalen Arbeitsgruppe «Künstliche Intelligenz» an den Bundesrat, 2019, (Erişim Tarihi:20.02.2021).
  • LICHOCKI, KAHN JR, BILLARD, “The Ethical Landscape of Robotics”, IEEE Robotics and Automation Magazine 2011. http://www.realtechsupport.org/UB/WBR/texts/Lichocki_ EthicalLandscapeRobotics_2011.pdf (Erişim Tarihi: 14.10.2020).
  • “Machine Learning in Transportation Data Analytics Parth Bhavsar, Dimah Dera, in Data Analytics for Intelligent Transportation Systems”, 2017 https://www.sciencedirect.com/ topics/psychology/machine-learning, (Erişim Tarihi: 14.10.2020).
  • “Machine Learning What It Is And Why It Matters” https://www.sas.com/en_us/ insights/analytics/machine-learning.html (Erişim Tarihi: 14.10.2020).
  • MARR, Bernard,“What Is Deep Learning AI? A Simple Guide With 8 Practical Examples” https://www.forbes.com/sites/bernardmarr/2018/10/01/what-is-deep-learning-ai-a-simple-guide-with-8-practical-examples/#1244d4198d4b (Erişim Tarihi:14.10.2020).
  • NAMAL, Doğuşcan, “Makineler Düşünebilir Mi?”, https://medium.com/t%C3%BCrkiye/ turing-testi-2b87097ae6f0 (Erişim Tarihi: 22.01.2020).
  • National Conference Of State Legislatures, “Autonomous Vehicles, Self- Driving Vehicles Enacted Legislation,”, Temmuz, 2018. https://www.ncsl.org/research/transportation/ autonomous-vehicles-self-driving-vehicles-enacted-legislation.aspx (Erişim Tarihi: 14.10.2020).
  • OĞUZMAN, M. Kemal - SELİÇİ, Özer - OKTAY ÖZDEMİR, Saibe, Kişiler Hukuku, Filiz Kitapevi, İstanbul, 2013.
  • “Open Letter To The European Commission Artificial Intelligence and Robotics” http://www.robotics-openletter.eu/ (Erişim Tarihi:14.10.2020).
  • OLIPHANT, Ken, WILCOX, Vanessa, “England And Wales.” Chapter, In European Product Liability: An Analysis of the State of the Art in the Era of New Technologies, edited by Piotr MACHNIKOWSKI, (Intersentia, 2016).
  • OPPERMANN, Artem, “Artificial Intelligence vs. Machine Learning vs. Deep Learning”, (https://www.deeplearning-academy.com/p/ai-wiki-machine-learning-vs-deep-learning (Erişim Tarihi: 22.01.2020).
  • ÖZBEK, Ö. Veli, Koray DOĞAN, Pınar BACAKSIZ, “Türk Ceza Hukuku Genel Hükümler” Seçkin Yayınları, 11. Baskı, Ankara 2020.
  • ÖZTÜRK, Bahri, Mustafa Ruhan ERDEM, “Ceza Hukuku ve Güvenlik Tedbirleri Hukuku”, 19.Baskı, Seçkin Yayınevi, Ankara, 2019.
  • ÖZTÜRK DİLEK, Gizem, “Yapay Zekânın Etik Gerçekliği”, https://dergipark.org.tr/en/download/article-file/912769 (Erişim Tarihi: 14.10.2020).
  • ÖZPARLAK, Başak Ozan, “İnsan-Robot Etkileşimi ve Hukuk”, Hukuk Köprüsü, Haziran 2019.
  • PİRİM, Harun, “Yapay Zekâ”, Yaşar Üniversitesi Dergisi, C.1, S.1, 2011. https://journal.yasar. edu.tr/wp-content/uploads/2011/07/no1_vol1_07_harun_pirim.pdf.
  • “Policy of U.S. Department of Transportation on Automated Vehicle Development” (Mayıs 2013) http://www.nhtsa.gov/staticfiles/rulemaking/pdf/Automated_Vehicles_Policy.pdf (Erişim Tarihi: 14.10.2020).
  • RAHMAN, Rofi Aulia - HABIBULAH, Rizki “The Criminal Liability of Artificial Intelligence: Is It Plausible to Hit her to Indonesian Criminal System?” https://ejournal.umm.ac.id/index.php/legality/article/view/10153.
  • RICHARDS, Neil M. - SMART D. William., “How should the law think about robots?” (Preliminary Draft), https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2263363&download= yes pdf (Erişim Tarihi: 02.01.2020).
  • ROSTON A. Brittany, “Google Assistant Was The Smartest AI in 2018, But Others Are Catching Up” https://www.slashgear.com/google-assistant-was-the-smartest-ai-in-2018-but-others-are-catching-up 21558934/ (Erişim Tarihi: 21.01.2020).
  • RUBIN, Charles T. , “Robotic Souls”: The New Atlantis , No. 57 (Winter 2019), Published by: Center for the Study of Technology and Society, Stable URL: https://www.jstor.org/stable/10.2307/26609102 (Erişim Tarihi: 14.10.2020).
  • SAMUEL, Arthur, “Pioneer in Machine Learning”, http://infolab.stanford.edu/pub/voy/ museum/samuel.html (Erişim Tarihi: 14.10.2020).
  • “Self-Driving Uber Kills Arizona Woman In First Fatal Crash Involving Pedestrian”, https://www.theguardian.com/technology/2018/mar/19/uber-self-driving-car-kills-woman-arizona-tempe (Erişim Tarihi: 14.10.2020).
  • Scottish Law Commission Discussion Paper No 171 “Automated Vehicles: Consultation Paper 3 – A regulatory framework for automated vehicles” https://s3-eu-west-2.amazonaws.com/lawcom-prod-storage-11jsxou24uy7q/uploads/2021/01/AV-CP3.pdf
  • SORDAM, Andrew, Başkan Yardımcısı, Oracle EMEA Bölgesi, “Yapay Zekâ ve robot teknolojisi: Entegre bulut çalışmalarda nasıl bir devrim yaratıyor?”, https://www.oracle.com/tr/cloud/paas/features/use-of-ai-and-robotics.html (Erişim Tarihi: 21.01.2020).
  • “South Korean Robot Ethics Charter 2012”, https://akikok012um1.wordpress.com/south-korean-robot-ethics-charter-2012/ (Erişim Tarihi: 14.10.2020).
  • “Stephen Hawking: AI will be 'either best or worst thing' for humanity”, https://www.theguardian.com/science/2016/oct/19/stephen-hawking-ai-best-or-worst-thing-for-humanity-cambridge (Erişim Tarihi:14.10.2020).
  • Swiss Criminal Code https://www.fedlex.admin.ch/eli/cc/54/757_781_799/en (Erişim tarihi:20.02.2021).
  • Swiss Info, https://www.swissinfo.ch/eng/first-autonomous-transport-service-in-switzerland-inaugurated/43541214 (Erişim tarihi:20.02.2021).
  • ŞEKER, Abdulkadir.,Banu DİRİ, Hasan Hüseyin BALIK “Derin Öğrenme Yöntemleri ve Uygulamaları Hakkında Bir İnceleme”, Gazi Mühendislik Bilimleri Dergisi 2017, https://dergipark.org.tr/tr/download/article-file/394923 (ErişimTarihi:14.10.2020).
  • The Royal Society, “Machine learning: the power and promise of computers that learn by example”,https://royalsociety.org/~/media/policy/projects/machinelearning/publications/machine-learning-report.pdf (Erişim Tarihi: 24.02.2021).
  • TÖNGÜR, R.Ali, Ekrem ÇETİNTÜRK, “Ceza Hukuku Genel Hükümler” Adalet Yayınevi, Ankara, 2020.
  • Türk Dil Kurumu Sözlükleri, https://sozluk.gov.tr/ (Erişim Tarihi: 14.10.2020).
  • Türkiye Büyük Millet Meclisi, Erişim Tarihi: 10.04.2020, https://www.tbmm.gov.tr/develop/owa/tasari_teklif_sd.onerge_bilgileri?kanunlar_sira_no= 262897, (Erişim Tarih: 17.05.2020).
  • UYAR, Tevfik, “Ya Yapay Ahlak?” İnsanlaşan Makinalar ve Yapay Zekâ İTÜ Vakfı Dergisi Ocak-Mart 2017, Sayı 75, https://www.ituvakif.org.tr/dergi/sayi_75.pdf, (Erişim Tarihi: 14.10.2020).
  • Ürün Sorumluluğu Direktifi (AB), “Council Directive of 25 July 1985 for the approximation of the laws, regulations and administrative provisions of the Member States concerning liability for defective products, (85/374/EEC), OJ No L 210, 07.08.85, , Document 31985L0374”, European Commission, (Erişim Tarihi: 10.04.2020).
  • VERUGGIO, Gianmarco, “The Birth of Roboethics“, IEEE International Conference on Robotics and Automation Workshop on Robo-Ethics Barcelona, April 18, 2005, http://www.roboethics.org/icra2005/veruggio.pdf (Erişim Tarihi: 14.10.2020).
  • VICTOR, Daniel, “Microsoft Created a Twitter Bot to Learn From Users. It Quickly Became a Racist Jerk” https://www.nytimes.com/2016/03/25/technology/microsoft-created-a-twitter-bot-to-learn-from-users-it-quickly-became-a-racist-jerk.html (Erişim: 14.10.2020).
  • “Volvo Will Accept Liability For Its Self-Driving Cars”, https://www.forbes.com/ sites/jimgorzelany/2015/10/09/volvo-will-accept-liability-for-its-self-driving-cars/#1dd4734f72c5 (Erişim Tarihi:14.10.2020).
  • “Yapay Zekalı Robotların Ceza Sorumlulukları”, https://robotic.legal/wp-content/uploads/2019/05/YAPAY-ZEKALI-ROBOTLARIN-CEZA SORUMLULUKLARI.pdf (Erişim Tarihi: 15.12.2019).
  • YILMAZ, Gizem, “Yapay Zekânın Yargı Sistemlerinde Kullanılmasına İlişkin Avrupa Etik Şartı”, Marmara Avrupa Araştırmaları Dergisi, C: 28, Sayı: 1, 2020.
  • ZAFER, Hamide, Nur CENTEL; Özlem ÇAKMUT, “Türk Ceza Gukukuna Giriş”, Beta Basım Yayın, Eylül 2017.
  • ZAFER, Hamide, “Ceza Genel Hukuku Ders Kitabı TCK m.1-75”, 2016, İstanbul.