The “State Duty to Protect” (Schutzpflicht) and algorithmic discrimination: implications for the protection of vulnerable groups and minorities
Keywords:
Algorithmic discrimination, Schutzpflicht, State duty to protect, Vulnerable groups, MinoritiesAbstract
The different conditions of vulnerability present in society have, throughout history, exhibited distinct characteristics that often give rise to discrimination, including forms of structural discrimination, which are increasingly reproduced in the digital environment through a phenomenon known as algorithmic discrimination. In this context, this article addresses the following question: to what extent is the State bound, under the theory of the State Duty to Protect (Schutzpflicht), to safeguard the fundamental rights of vulnerable groups and minorities against algorithmic discrimination? Accordingly, this study aims to present an analysis of the theory of the State Duty to Protect, followed by an examination of the elements that characterize vulnerable groups and minorities. It then seeks to assess how these conditions are transposed to the digital sphere and to identify the corresponding duties of state protection that arise in this context.
Downloads
References
BÖCKENFÖRDE, Ernst-Wolfgang. Fundamental rights as constitutional principles: on the current state of interpreting fundamental rights. In: KÜNKLER, Mirjam; STEIN, Tine (Ed.). Constitutional and political theory: selected writings. Oxford: Oxford University Press, 2017. v. 1.
CANARIS, Claus-Wilhelm. Direitos fundamentais e direito privado. Trad. Ingo Wolfgang Sarlet e Paulo Mota Pinto. Coimbra: Almedina, 2009.
CARBONELL, Miguel. Constitucionalismo, minorías y derechos. Isonomía: Revista de Teoría y Filosofía ,del Derecho, n. 12, 2000. p. 95-116.
DOMINGOS, Pedro. A revolução do algoritmo mestre: como a aprendizagem automática está a mudar o mundo. 10. ed. Lisboa: Manuscrito, 2017.
ERNST, Christian. Artificial Intelligence and autonomy: self-determination in the age oof automated systems. In: WISCHMEYER, Thomas; RADEMACHER, Timo (Ed.). Regulating Artificial Intelligence. Springer: Cham, 2020.
GARGARELLA, Roberto; COURTIS, Christian. El nuevo constitucionalismo latinoamericano: promesas e interrogantes. CEPAL – Serie Políticas Sociales, n. 153, 2009. p. 3-44.
GRIMM, Dieter. Constitucionalismo y derechos fundamentales. Trad. Raúl Sanz Burgos e José Luis Muñoz de Baena Simón. Madrid: Editorial Trotta, 2006.
HABERMAS, Jürgen. A inclusão do outro. Trad. George Sperber, Paulo Astor Soethe, Milton Camargo Mota. 2. ed. São Paulo: Loyola, 2004.
HOFFMANN-RIEM, Wolfgang. Teoria geral do direito digital: transformação digital desafios para o direito. 2. ed. Rio de Janeiro: Forense, 2022.
KLEINBERG, Jon; LUDWIG, Jens; MULLAINATHAN, Sendhil; SUSTEIN, Cass R. Discrimination in the age of algorithms. Journal of Legal Analysis, v. 10, 2018. p. 113-174.
LEAL, Mônia Clarissa Hennig. Jurisdição constitucional aberta: reflexões sobre a legitimidade e os limites da jurisdição constitucional na ordem democrática – uma abordagem a partir das teorias constitucionais alemã e norte-americana. Rio de Janeiro: Lumen Juris, 2007.
LEAL, Mônia Clarissa Hennig; LIMA, Sabrina Santos. A atuação da corte interamericana de direitos humanos na proteção dos grupos em situação de vulnerabilidade: discriminação estrutural e sentenças estruturantes. São Paulo: Tirant Lo Blanch, 2021.
LEAL, Mônia Clarissa Hennig; MAAS, Rosana Helena. “Dever de proteção estatal”, “proibição de proteção insuficiente” e controle jurisdicional de políticas públicas. Rio de Janeiro: Lumen Juris, 2020.
LINKEDIN BARRA ANÚNCIO DE VAGAS A NEGROS E INDÍGENAS; MPF E PROCON-SP PEDEM EXPLICAÇÕES. G1, 2022. Disponível em: [https:// g1.globo.com/tecnologia/noticia/2022/03/24/procon-sp-notifica-linkedin- por-barrar-anuncio-de-vagas-para-negros-e-indigenas.ghtml]. Acesso em: 01.10.2022.
NOBLE, Safiya Umoja. Algorithms of oppression: how search engines reinforce racism. New York University Press: New York, 2018.
ONEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. Crown: New York, 2016.
SABA, Roberto. (Des)igualdade estructural. Revista Derecho y Humanidades, n. 11, 2005. p. 123-147.
SAGÜÉS, María Sofía. Discriminación estructural, inclusión y litigio estratégico. In: FERRER MAC-GREGOR, Eduardo; MORALES ANTONIAZZI, Mariela; FLORES PANTOJA Rogelio (Coord.). Inclusión, ius commune y justiciabilidad de los DESCA en la jurisprudencia interamericana. El caso Lagos del Campo y los nuevos desafíos. Querétaro: Instituto de Estudios Constitucionales del Estado de Querétaro, 2018.
SIQUEIRA, Dirceu Pereira; CASTRO, Lorena Roberta Barbosa. Minorias e grupos vulneráveis: a questão terminológica como fator preponderante para uma real inclusão social. Revista Direitos Sociais e Políticas Públicas (Unifafibe), v. 5, n. 1, 2017. p. 105-122.
TISCHBIREK, Alexander. Artificial Intelligence and discrimination: discriminating against discriminatory systems. In: WISCHMEYER, Thomas; RADEMACHER, Timo (Ed.). Regulating Artificial Intelligence. Springer: Cham, 2020.
Downloads
Published
How to Cite
Issue
Section
License
A política de direitos autorais é informada nas Normas de Publicação para autores de colaboração autoral inédita e é aqui resumida: (a) o autor cede os direitos autorais à RDCC e seus editores; (b) a remuneração do autor consiste no recebimento de um exemplar da RDCC, no qual sua contribuição foi publicada. Os textos publicados podem ser utilizados.
