Prawa potencjalnych cyfrowych osób w cyfrowym społeczeństwie. Kilka uwag o moralno-prawnym statusie ultrainteligentnej maszyny

Andrzej Stoiński


Zasadniczym celem tego tekstu jest zbadanie możliwości posiadania praw przez inteligentną maszynę. Zastanowimy się nad wartością trzech rodzajów uzasadnień owych praw. Po pierwsze, uzasadnienie praw sztucznej inteligencji odwołujące się do ich korelacji z ludzkimi obowiązkami niezupełnymi. Analizujemy też podejście bazujące na statusie obiektów moralnych w ich relacjach z ludźmi. Powołując się na prace różnych teoretyków oba te uzasadnienia uznajemy za niewystarczająco przekonujące. Najbardziej trafne wydaje się uzasadnienie posiadania praw przez takie maszyny, które wypełniałyby warunki bycia sztuczną osobą, moralnym podmiotem. Jednakże i ta ostatnia opcja nie jest wolna od licznych trudności, na które zwracamy uwagę.

Rights of Possible Digital Persons in a Digital Society. Rights of possible digital persons in a digital society. A few remarks on the moral and legal status of an ultra-intelligent machine

The main goal of this text is to take a closer look at the possibility of an intelligent machine having rights. First of all, we will consider the value of the three kinds of justifications for these rights. As for the justification of the rights of Artificial Intelligence referring to some correlation with human imperfect duties and that which is based on the status of moral objects in relations with people, we consider them unconvincing. It seems most accurate to justify the possession of rights by such machines that would fulfill the conditions of being an artificial person, a moral subject. However, the latter option is not free from the numerous difficulties that we bring to your attention.

Keywords: artificial intelligence, AI, ethics of artificial intelligence, artificial person, theories of rights, rights/obligations of artificial intelligence

Słowa kluczowe: sztuczna inteligencja, SI, etyka sztucznej inteligencji, sztuczna osoba, teorie praw, prawa/obowiązki sztucznej inteligencji

Arystoteles (2005). Polityka. Wrocław: Ossolineum.

Barr., Ch. (2017). Building Morality: A New Strategy for Creating Human-Like Moral Psychology in Artificial General Intelligence. Lawrence University Honors Projects 112, 1-37.

Beitz, Ch.R. (2009). The Idea of Human Rights. Oxford: Oxford University Press.

Biczysko-Pudełko, K., Szostek, D. (2019). Koncepcje dotyczące osobowości prawnej robotów – zagadnienia wybrane. Prawo Mediów Elektronicznych 2, 9-15.

Biocca, F. (1996). Intelligence augmentation: The vision inside virtual reality. Advances in Psychology 113, 59-75.

Birhane, A., van Dijk, J. (2020). Robot rights? Let’s talk about human welfare instead. [w:] AIES’20: Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, February 7–8, 2020, New York. New York,

Boecjusz (2003). O pociechach filozofii. Traktaty teologiczne. Warszawa: DeAgostini.

Bostrom, N., Yudkowsky, N. (2011). The Ethics of Artificial Intelligence. file:///C:/Users/UWM/Downloads/artificial-intelligence.pdf.

Bostrom, N. (2002). Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards. Journal of Evolution and Technology 9(1), 1-31.

Bryson, J.J. (2018). Patiency is not a virtue: The design of intelligent systems and systems of ethics. Ethics and Information Technology 20, 15-26.

Bryson, J.J. (2010). Robots should be slaves. [w:] Wilks, Y. (Ed.), Close Engagements with Artificial Companions: Key social, psychological, ethical and design issues. Amsterdam: John Benjamins, 63-74.

Buchanan, A. (2010). The Egalitarianism of Human Rights. Ethics 120, 679-710.

Coeckelbergh, M. (2012). Growing Moral Relations. Critique of Moral Status Ascription. London: Palgrave Macmillan.

Coeckelbergh, M. (2010). Robot rights? Towards a social-relational justification of moral consideration. Ethics and Information Technology 12 (3), 209-221.

Copeland, J. (2000). What is Artificial Intelligence?.,

Cranston, M. (1983). Are There Any Human Rights. Daedalus 112(4), 1-17.

Cranston, M. (1967). Human Rights-Real and Supposed. [w:] Raphael,

D.D. (Ed.), Political Theory and the Rights of Man. Bloomington, IN: Indiana University Press, 43-53.

Danaher, J. (2020). Welcoming Robots into the Moral Circle: A Defence of Ethical Behaviourism. Science and Engineering Ethics 26, 2023-2049.

Darling, K. (2016). Extending Legal Protection to Social Robots: The Effects of Anthropomorphism, Empathy, and Violent Behavior towards Robotic Objects. [w:] Calo, R., Froomkin, A.M., Kerr, I. (Eds.), Robot Law. Cheltenham: Edward Elgar Publishing, 213-234.

Dumouchel, P. (2019). Intelligence, Artificial and Otherwise. Forum Philosophicum 24(2), 241-258.

Floridi, L. (2013). The ethics of information. Oxford: Oxford University Press.

Frankena, W.K. (1973). Ethics. Englewood Cliffs: Prentice-Hall.

Gogacz, M. (1994). Filozoficzna identyfikacja godności osoby. [w:] Czerkawski, J. (red.), Zagadnienia godności człowieka. Lublin: Wydawnictwo KUL, 113-140.

Gogoshin, D.L. (2021). Robot Responsibility and Moral Community. Frontiers in Robotics and AI 8,., 1-13.

Good, I.J. (1965). Speculations Concerning the First Ultraintelligent Machine. Advances in Computers 6, 31-88.

Gordon, J.S., & Nyholm, S. (2021). Ethics of Artificial Intelligence. W: Internet Encyclopedia of Philosophy.

Gordon, J.S., Pasvenskiene, A. (2021). Human Rights for Robots? A Literature Review. AI and Ethics 1,., 597-591.

Gunkel, D.J. (2018a). The other question: can and should robots have rights?. Ethics and Information Technology 20, 87-99.

Gunkel, D.J. (2018b). Robot Rights. London: The MIT Press.

Harel, A. (2005). Theories of Rights. [w:] Golding, M.P., Edmundson, W.A. (Eds.), The Blackwell Guide to the Philosophy of Law and Legal Theory. Malden: Blackwell, 191-206.

Hassani, H., Silva, E.S., Unger, S., Mazinani, M.T., Mac Feely, S. (2020). Artificial Intelligence (AI) or Intelligence Augmentation (IA): What Is the Future? AI 1, 143-155.

Hohfeld, W.N. (1917). Fundamental Legal Conceptions as Applied in Judicial Reasoning. Faculty Scholarship Series. Paper 4378,

Janowska, M. (2015). Podmiotowość prawna sztucznej inteligencji? [w:] Bielska-Brodziak, A. (red.), O czym mówią prawnicy, mówiąc o podmiotowości. Katowice: Wydawnictwo Uniwersytetu Śląskiego.

Jones, C.P.A. (2019). The Robot Koseki: A Japanese Law Model for Regulating Autonomous Machines. Journal of Business & Technology Law 14/2, 403-467.

Kant, I. (2005). Ugruntowanie metafizyki moralności. Kraków: Zielona Sowa.

Kraaijeveld, S.R. (2020). Debunking (the) Retribution (Gap). Science and Engineering Ethics 26(3),, 1315-1328.

Kramer, M., Simmonds, N.E., Steiner, H. (1998). A Debate Over Rights: Philosophical Enquiries. Oxford: Clarendon Press.

Legg, S., Hutter, M. (2007). A collection of definitions of intelligence. [w:] Goertzel, B., Wang, P. (Eds.), Artificial General Intelligence: Concepts, Architectures and Algorithm. Amsterdam: IOS Press, 17-24

Liao, S.M. (2020). The Moral Status and Rights of Artificial Intelligence. [w:] Liao, S.M. (Ed.), Ethics of Artificial Intelligence. Oxford: Oxford University Press, 480-503.

Mamak, K. (2022). Humans, Neanderthals, robots and rights. Ethics and Information Technology 24(3),, 1-9.

Marshall, T.H. (1950). Citizenship and Social Class. Cambridge: Cambridge University Press.

Mazurek, J. (2001). Godność osoby ludzkiej podstawą praw człowieka. Lublin: Wydawnictwo KUL.

Miller, L.F. (2015). Granting Automata Human Rights: Challenge to a Basis of Full-Rights Privilege. Human Rights Review 16, 369-391.

Moor, J.H. (2006). The Nature, Importance, and Difficulty of Machine Ethics. IEEE Intelligent Systems 21(4), 18-21.

Nagel, T. (1974). What Is It Like to Be a Bat? The Philosophical Review 83(4), 435-450.

O’Neill, O. (2009). The Dark Side of Human Rights. [w:] Christiano, T., Christman, J. (Eds.), Contemporary Debates in Political Philosophy. Oxford: Blackwell, 423-436.

Peters, T. (2019). Artificial Intelligence versus Agape Love Spirituality in a Posthuman Age. Forum Philosophicum 24(2), 259-278.

Peterson, M., Spahn, A. (2011). Can Technological Artefacts Be Moral Agents?. Science and Engineering Ethics 17, 411-424.

Pietrzykowski, T. (2015). Kant, Korsgaard i podmiotowość moralna zwierząt. Archiwum Filozofii Prawa i Filozofii Społecznej 2, 106-119.

Piluś, H. (1989). O godności człowieka jako osoby. Studia filozoficzne 7-8, 163-182.

Railton, P. (2020). Ethical Learning, Natural and Artificial. [w:] Liao, S.M. (Ed.), Ethics of Artificial Intelligence. Oxford: Oxford University Press, 45-78.

Russell, S., Norvig, P. (2003). Artificial Intelligence: A Modern Approach. Upper Saddle River: Prentice Hall.

Schneider, S. (2020). How to Catch an AI Zombie: Testing for Consciousness in Machines. [w:] Liao, S.M. (Ed.), Ethics of Artificial Intelligence. Oxford: Oxford University Press, 439-458.

Schwitzgebel, E., Garza, M. (2020). Designing AI with Rights, Consciousness, Self-Respect, and Freedom. [w:] Liao, S.M. (Ed.), Ethics of Artificial Intelligence. Oxford: Oxford University Press, 459-479

Searle, J. (2004). Mind: a brief introduction. Oxford: Oxford University Press.

Sen, A. (2004). Elements of a Theory of Human Rights. Philosophy and Public Affairs 32(4), 315-356.

Sensen, O. (2011). Human dignity in historical perspective: The contemporary and traditional paradigms. European Journal of Political Theory 10(1), 71-91.

Shue, H. (1996). Basic Rights. Princeton: Princeton University Press.

Spaemann, R. (2001). Osoby. O różnicy między czymś a kimś. Warszawa: Oficyna Naukowa.

Sparrow, R. (2004). The Turing Triage Test. Ethics and Information Technology 6(4), 203-213.

Strauss, L. (1953). Natural Right and History. Chicago: University of Chicago Press.

Strawson, P.F. (1980). Indywidua. Próba metafizyki opisowej. Warszawa: PAX.

Szostek, A. (1998). Rola pojęcia godności w etyce. [w:] Szostek, A. Wokół godności, prawdy i miłości. Rozważania etyczne. Lublin: Wydawnictwo KUL, 42-63.

Sztuczna inteligencja dla Europy (2018). Komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Rady, Europejskiego Komitetu Ekonomicznospołecznego i Komitetu Regionów, COM (2018) 237 final,

Taddeo, M., Floridi, L. (2018). How AI can be a force for good. Science 361 (6404), 751-752.

Tan, K.Ch. (2004). Justice Without Borders: Cosmopolitanism, Nationalism and Patriotism. Cambridge: Cambridge University Press.

Tasioulas, J. (2012). On the Nature of Human Rights. [w:] Ernst, G.,

Heilinger, J.C. (Eds.), The Philosophy of Human Rights: Contemporary Controversies. Berlin: Walter de Gruyter, 17-60.

Tierney, B. (1997). The Idea of Natural Rights: Studies on Natural Rights, Natural Law, and Church Law 1150–1625. Cambridge: Eerdmans Publishing.

Tierney, B. (2004). The Idea of Natural Rights-Origins and Persistence. Northwestern Journal of International Human Rights 2(1), 1-12.

Tuck, R. (1979). Natural Rights Theories: Their Origin and Development. Cambridge: Cambridge University Press.

Turner, J. (2019). Robot rules. Regulating artificial intelligence. Cham: Palgrave Macmillan.

Verbeek, P.P. (2011). Moralizing Technology: Understanding and Designing the Morality of Things. Chicago: University of Chicago Press.

Verbeek, P.P. (2008). Obstetric ultrasound and the technological mediation of morality: A post phenomenological analysis. Human Studies 31, 11-26.

Verbeek, P.P. (2005), What things do: Philosophical reflections on technology, agency and design. University Park, PA: Penn State University Press.

Villey, M. (1983). Le Droit et les droits de l’homme. Paris: PUF.

Waldron, J. (1989). Rights in Conflict. Ethics 99 (3), 503-519

Wenar, L. (2005). The nature of rights. Philosophy and Public Affairs 33 (3), 223-252.

Williams, B. (2005). Human Rights and Relativism. [w:] Hawthorn, G. (Ed.), In the Beginning was the Deed: Realism and Moralism in Political Argument. Princeton: Priceton University Press, 62-74.

Zalewski, T. (2020). Definicja sztucznej inteligencji. [w:] Lai, L., Świerczyński, M. (red.), Prawo sztucznej inteligencji. Warszawa: C.H. Beck, 1-14.

Rocznik multidyscyplinarny

Od numeru 8/2017 „Zoon Politikon” ukazuje się wyłącznie w wersji elektronicznej w Internecie.