Analisar como valores morais podem ser incorporados a sistemas de decisão automatizada, considerando a percepção de profissionais e estudantes de Tecnologia da Informação, e propor uma formulação teórica que articule eficiência técnica, justiça e limites éticos previamente definidos.
O estudo aborda a necessidade de integrar princípios éticos ao desenvolvimento de sistemas automatizados e propõe a moralidade como restrição primária, contribuindo para a discussão sobre inovação tecnológica responsável e orientada ao bem-estar, com atenção aos impactos sociais das decisões automatizadas.
Pesquisa aplicada, exploratória e quanti-qualitativa, realizada por meio de levantamento com questionário estruturado aplicado a 51 estudantes e profissionais de Tecnologia da Informação. Os dados objetivos foram analisados por frequências e percentuais, e as respostas abertas por análise de conteúdo.
Os resultados mostraram ampla aceitação de limites éticos em sistemas automatizados: 92,1% apoiaram restrições rígidas, 86,3% reconheceram a responsabilidade do desenvolvedor e 78,4% priorizaram a justiça social, enquanto 72,5% rejeitaram a eficiência técnica como critério exclusivo.
A principal contribuição é a formulação teórica da moralidade como restrição primária em decisões automatizadas, segundo a qual princípios éticos delimitam previamente as soluções admissíveis, condicionando a busca por eficiência e oferecendo implicações para o desenvolvimento de inovação tecnológica responsável.
O estudo oferece subsídios para desenvolvedores, gestores e organizações incorporarem justiça, equidade, responsabilidade e prevenção de danos ao desenvolvimento e à governança de sistemas automatizados, favorecendo soluções tecnológicas socialmente responsáveis e orientadas ao bem-estar das pessoas afetadas.
Analyze how moral values can be incorporated into automated decision-making systems, considering the perceptions of Information Technology students and professionals, and propose a theoretical formulation that articulates technical efficiency, justice, and previously defined ethical limits.
The study addresses the need to integrate ethical principles into the development of automated systems and proposes morality as a primary constraint, contributing to the discussion on responsible technological innovation oriented toward well-being and the social impacts of automated decisions.
Applied, exploratory, quantitative-qualitative research conducted through a survey using a structured questionnaire administered to 51 Information Technology students and professionals. Objective data were analyzed using frequencies and percentages, while open-ended responses were examined through content analysis.
The results showed broad acceptance of ethical limits in automated systems: 92.1% supported hard constraints, 86.3% recognized developer responsibility, and 78.4% prioritized social justice, while 72.5% rejected technical efficiency as the sole criterion.
The main contribution is the theoretical formulation of morality as a primary constraint in automated decisions, whereby ethical principles delimit admissible solutions in advance, conditioning the pursuit of efficiency and offering implications for the development of responsible technological innovation.
The study provides guidance for developers, managers, and organizations to incorporate justice, equity, responsibility, and harm prevention into the development and governance of automated systems, favoring socially responsible technological solutions oriented toward the well-being of affected people.