Design e Inteligência Artificial: a análise crítica do contexto para uma prática ética
Resumo
Em se tratando de projetos para seres humanos a ética se constitui em fator central, devendo ser parte dos processos de design que resultam em soluções para a sociedade. Nesse sentido, diante do cenário atual, torna-se cada vez mais urgente a necessidade de debater as relações entre Design, Inteligência Artificial e Ética visando fomentar projetos adequados à humanidade e à salvaguarda de direitos. Este artigo argumenta, apoiado por uma revisão bibliográfica narrativa, que só é possível projetar eticamente na era da IA por meio de uma compreensão profunda e crítica do contexto social, sendo esta também uma tarefa dos designers que além de criadores, precisarão se tornar analistas críticos do contexto, constituindo uma missão contínua que deverá ser abordada a partir de uma perspectiva interdisciplinar.
Palavras-chave
Texto completo:
PDFReferências
ARBIX, G. A transparência no centro da construção de uma IA ética. Novos estudos Cebrap, SciELO Brasil, v. 39, p. 395-413, 2020. Disponível em: https://doi.org/10.25091/s01013300202000020008. Acesso em: 12 jun. 2026.
BENJAMIN, R. Race After Technology. Cambridge: Polity, 2019.
BEST, K. Fundamentos de gestão do design. Porto Alegre: Bookman, 2012.
BONSIEPE, G. Do material ao digital. São Paulo: Blucher, 2015.
BREY, P.; DAINOW, B. Ethics by design for artificial intelligence. AI and Ethics, v. 4, p. 1265-1277, 2023. Disponível em: https://doi.org/10.1007/s43681-023-00330-4. Acesso em: 12 jun. 2026.
BRYSON, J. J. The artificial intelligence of the ethics of artificial intelligence: An Introductory Overview for Law and Regulation. In: DUBBER, M. D.; PASQUALE, F.; DAS, S. (ed.). The Oxford handbook of ethics of AI. Oxford: The Oxford University Press, 2020.
CAPEL, T.; BRERETON, M. What is human-centered about human-centered AI? A map of the research landscape. Proceedings of the CHI ‘23: CHI Conference on Human Factors in Computing, Hamburg, Germany. April 23-28, 2023: p. 1-23, 2023. Disponível em: https://doi.org/10.1145/3544548.3580959. Acesso em: 12 jun. 2026.
CHAN, J. Design ethics: Reflecting on the ethical dimensions of technology, sustainability, and responsibility in the Anthropocene. Design Studies, v. 54, n. C, p. 184-200, 2018. Disponível em: https://doi.org/10.1016/j.destud.2017.09.005. Acesso em: 12 jun. 2026.
COCKELLBERGH, M. Ética na Inteligência Artificial. São Paulo/Rio de Janeiro: Ubu Editora/Editora PUC Rio, 2023. E-book.
COCKELLBERGH, M. The political philosophy of AI. Cambridge, UK: Polity Press, 2022.
COCKELLBERGH, M. Why AI Undermines Democracy and What to Do About It. Cambridge, UK: Polity Press, 2024.
COULDRY, N.; MEJIAS, U. A. The Costs of Connection: How Data Is Colonizing Human Life and Appropriating It for Capitalism. Stanford: Stanford University Press, 2019.
CRAWFORD, K. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven, CT: Yale University Press, 2021.
CRIADO PEREZ, C. Invisible Women: Data Bias in a World Designed for Men. New York: Abrams Press, 2019.
DIGNUM, V. et al. Ethics by design: Necessity or curse? In: Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society, p. 60-66, 2018. Disponível em: https://dl.acm.org/doi/10.1145/3278721.3278745. Acesso em: 12 jun. 2026.
DIGNUM, V. Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way. [S.l.]: Springer, 2019. (Artificial Intelligence: Foundations, Theory, and Algorithms).
DIGNUM, V. The AI Paradox: how to make sense of a complex future. Princeton, New Jersey: Princeton University Press, 2026.
DORRESTIJN, S.; EGGINK, W. Product Impact Tool Workshop: Mastering Affect and Effect in Human-Product Relations. In: SALAMANCA, J.; DESMET, P.; BURBANO, A.; LUDDEN, G.; MAYA, J. (ed.). Proceedings of the Colors of Care: The 9th International Conference on Design & Emotion. Bogotá, October 6-10, 2014. Bogotá: Ediciones Uniandes, 2014. p. 467-469.
DORRESTIJN, S. A Tool for the Impact and Ethics of Technology: The Case of Interactive Screens in Public Spaces. In: WILTSE, Heather (ed.). Relating to Things: Design, Technology and the Artificial. London & New York: Bloomsbury, 2020. p. 151-172.
DORST, C. H.; CROSS, N. G. Creativity in the design process: co-evolution of problem-solution. Design Studies, v. 22, n. 5, p. 425-437, 2001. Disponível em: https://doi.org/10.1016/S0142-694X(01)00009-6. Acesso em: 12 jun. 2026.
FLORIDI, L. A ética da inteligência artificial: princípios, desafios e oportunidades. Curitiba: PUCPRESS, 2024.
FLUSSER, V. O mundo codificado: por uma filosofia do design e da comunicação. São Paulo: Ubu Editora, 2017. E-book.
FORTY, A. Objetos de desejo - design e sociedade desde 1750. São Paulo: Cosac Naify, 2007.
FRY, T. The voice of sustainment: Design ethics as futuring. Design Philosophy Papers, v. 2, n. 2, p. 145-156, 2004. Disponível em: https://doi.org/10.2752/144871304X13966215068038. Acesso em: 12 jun. 2026.
HESKETT, J. Design: A Very Short Introduction. Oxford: OUP Oxford, 2005.
JORDAN, P. W. Designing pleasurable products: An introduction to the new human factors. [S.l.]: Taylor & Francis, 2005.
LAMB, L. da C. Ética em IA e IA ética: prolegômenos e estudo de casos significativos. Revista USP, n. 141, p. 107-120, 2024. Disponível em: https://doi.org/10.11606/issn.2316-9036.1141p107-120. Acesso em: 12 jun. 2026.
MARTINS, R. F. de F.; MERINO, E. A. D. A gestão do design como estratégia organizacional. Londrina: Eduel; Rio de Janeiro: Rio Books, 2011.
MOZOTA, B. B. de; KLÖPSCH, C.; COSTA, F. C. X. da. Gestão do design. Porto Alegre: Bookman, 2011.
NOBLE, S. U. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: New York University Press, 2018.
NORMAN, D. Design for a Better World: Meaningful, Sustainable, Humanity Centered. London: MIT Press, 2023.
OCDE – Organização para a Cooperação e Desenvolvimento Econômico. Princípios de IA. Visão geral dos princípios de IA da OCDE. Disponível em: https://oecd.ai/en/ai-principles. Acesso em: 18 jan. 2025.
PIZARRO, C. V. O Design na era da Inteligência Artificial: reflexões sobre a ética desde o design e a importância do contexto neste processo. In: DOMICIANO, C. L. C.; DICK, M. E. K. (org.). Ensaios em Design: Diálogos e Experiências. Bauru, SP: Canal 6, 2024a. 360 p. DOI 10.52050/9788579176753. Disponível em: https://ensaiosemdesign.com.br/livros/ensaios_em_design_dialogos_experiencias/. Acesso em: 12 jun. 2026.
PIZARRO, C. V. Projetar eticamente na era da IA: o papel do designer enquanto agente humanizador de tecnologias. In: Anais da 1ª Conferência Latino-Americana em Ética em Inteligência Artificial, p. 1-4. Porto Alegre: Sociedade Brasileira de Computação, 2024b. Disponível em: https://doi.org/10.5753/laai-ethics.2024.32437. Acesso em: 12 jun. 2026.
PIZARRO, C.V. O código de ética do designer frente aos avanços da Inteligência Artificial: reflexões e proposições. In: CROCCO, F. L. T; SILVA, D. M; RODRIGUES, C. T; PIMENTEL, B. A. F. (org.). Perspectivas Éticas para a IA: dilemas e desafios. São Paulo, SP: Editora AIUB, 2026. p. 170. DOI: 10.29327/5798915.1-3. Disponível em: https://editoraaiub.com.br/wp-content/uploads/2026/03/PerspectivasEticas_1.pdf. Acesso em: 12 jun. 2026.
PORTINARI, D. B.; NOGUEIRA, P. C. E. Por um design político. Estudos em Design, Rio de Janeiro, v. 24, n. 3, p. 32-46, 2016. Semestral. Disponível em: https://estudosemdesign.emnuvens.com.br/design/article/view/379. Acesso em: 12 jun. 2026.
RITTEL, H. W. J.; WEBBER, M. M. Dilemmas in a general theory of planning. Policy Sciences, v. 4, n. 2, p. 155-169, 1973. Disponível em: https://link.springer.com/article/10.1007/BF01405730. Acesso em: 12 jun. 2026.
ROTHER, E. Revisão sistemática X revisão narrativa. Acta Paul. Enferm., 2007. Disponível em: https://doi.org/10.1590/S0103-21002007000200001. Acesso em: 12 jun. 2026.
RUSSELL, S.; NORVIG, P. Artificial Intelligence: A Modern Approach. 3. ed. [S.l.]: Pearson Series in Artificial Intelligence, 2013.
SCHAAKE, M. The Tech Coup: How to Save Democracy from Silicon Valley. Princeton, New Jersey: University Press, 2024.
SCHNEIDER, B. Design - Uma introdução: o design no contexto social, cultural e econômico. São Paulo: Editora Blücher, 2010.
SCHÖN, D. A. The reflective practitioner: how professionals think in action. New York: Basic Books, 1983.
SILVA, T. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo, 2022.
SULEYMAN, M.; BHASKAR, M. The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma. New York: Crown Publishing Group, 2023.
VERBEEK, P. P. Ambient Intelligence and Persuasive Technology: The Blurring Boundaries Between Human and Technology. Nanoethics, v. 3, p. 231–242, 2009. Disponível em: https://doi.org/10.1007/s11569-009-0077-8. Acesso em: 12 jun. 2026.
ZELENKO, O.; FELTON, E. Framing design and ethics. In: FELTON, E.; ZELENKO, O.; VAUGHAN, S. (ed.). Design and Ethics: Reflections on Practice. United Kingdom: Routledge, 2012. p. 3-9.
DOI: https://doi.org/10.35522/eed.v34i2.2439
Apontamentos
- Não há apontamentos.
Direitos autorais 2026 Carolina Vaitiekunas P izarro
Esta obra está licenciada sob uma licença Creative Commons Atribuição - NãoComercial 4.0 Internacional.
Revista Estudos em Design, Rio de Janeiro, RJ, Brasil, ISSN Impresso: 0104-4249, ISSN Eletrônico: 1983-196X
Esta obra está licenciada sob uma licença Creative Commons Atribuição-NãoComercial 4.0 Internacional.