1. Quem é o utilizador e porque é que a sua função é determinante
O regulamento distingue quem desenvolve um sistema de inteligência artificial de quem o coloca em funcionamento. Este último, designado tecnicamente por utilizador ou deployer, é quem aplica a ferramenta na sua atividade. Quem adquire um software de seleção de candidatos e o utiliza nos seus processos internos é um deployer, mesmo que nunca tenha escrito uma linha de código. Esta distinção é fundamental porque as obrigações são diferentes, e uma mesma empresa pode assumir papéis distintos em ferramentas diferentes.
A função não depende de uma mera designação comercial. Se personalizares a ferramenta de forma substancial, alterares a sua finalidade prevista ou a comercializares sob a tua própria marca, a tua qualificação pode mudar e, com ela, as respetivas exigências legais. Antes de estruturar o trabalho, verifica com exatidão como o fornecedor caracterizou o produto e que alterações pretendes introduzir no teu contexto.
2. Quando é que um sistema é considerado de alto risco
Um sistema enquadra-se como de alto risco em duas circunstâncias principais: quando funciona como componente de segurança de um produto regulamentado por legislação europeia ou quando a sua aplicação integra a lista expressa de casos de uso do regulamento. Essa lista contempla domínios como a gestão de recursos humanos, a concessão de crédito, determinados serviços essenciais e a educação. Nem todas as utilizações nessas áreas são automaticamente de alto risco: o que conta é o papel concreto desempenhado pela ferramenta no teu processo.
A primeira etapa operacional consiste na classificação detalhada no guia específico. Importa reter que essa análise tem de assentar na utilização real da tua empresa e não na ficha técnica do produto. Um sistema genérico de processamento de texto pode passar a ser considerado de alto risco a partir do momento em que é empregue para avaliar candidatos, passando a exigir o cumprimento das respetivas regras. Esta reavaliação deve repetir-se sempre que a finalidade mudar, e não apenas no momento da compra.
3. As obrigações práticas de quem utiliza o sistema
Perante um sistema de alto risco, o regulamento exige ações operacionais bem concretas ao deployer. Não se trata de formalidades burocráticas: cada medida exige um responsável designado e evidências escritas. O detalhe específico deve ser acordado com o teu consultor, mas a estrutura geral corresponde aos pontos indicados abaixo, devendo ser adaptada ao teu setor e fluxo operacional. Usa esta lista como referência e incorpora os controlos verdadeiramente necessários à tua realidade.
A supervisão humana e a custódia de registos de atividade (logs) são frequentemente os pontos mais negligenciados pelas empresas. Uma pessoa que se limita a validar automaticamente todas as propostas emitidas pelo sistema não está a exercer supervisão. Estabelece critérios inequívocos sobre quando uma recomendação tem de ser reexaminada, quem detém autoridade para suspender a ferramenta e em que prazos o responsável tem de intervir face a anomalias. Documenta a seleção dos supervisores, as suas funções e a formação ministrada.
- Utilizar o sistema em estrita conformidade com as instruções fornecidas pelo desenvolvedor.
- Confiar a supervisão humana a profissionais qualificados, com autoridade e meios para intervir ou suspender o sistema.
- Verificar que os dados de entrada são pertinentes e adequados à finalidade expressamente declarada.
- Monitorizar o funcionamento operacional e reportar anomalias relevantes ao respetivo fornecedor.
- Conservar os registos de atividade gerados pelo sistema durante o período fixado pelas regras aplicáveis.
- Informar os titulares envolvidos sempre que o sistema seja utilizado na tomada de decisões que lhes digam respeito.
4. Colaboradores e pessoas afetadas
Quando o sistema abrange os colaboradores, o regulamento exige, em certas circunstâncias, que os trabalhadores e os seus representantes sejam informados antes do início da utilização no local de trabalho. A legislação laboral nacional pode estabelecer passos suplementares, tais como a auscultação de comissões de trabalhadores. Este envolvimento tem de ser planeado com o consultor de direito do trabalho antes da ativação da ferramenta, e nunca depois. Se tiveres dúvidas quanto à obrigatoriedade desta consulta, clarifica-a antes de iniciar a operação.
Os indivíduos objeto de uma decisão apoiada por um sistema de inteligência artificial têm o direito a receber informações transparentes sobre o papel desempenhado pela tecnologia. Prepara uma nota explicativa concisa e acessível para integrar no processo, juntamente com um procedimento para acolher dúvidas ou contestações. Não se trata de um pormenor estético: é o ponto de contacto direto entre o sistema e o cidadão, sendo habitualmente o primeiro a ser questionado.
5. A avaliação de impacto sobre os direitos fundamentais
Determinados utilizadores — mormente entidades públicas ou organizações privadas prestadoras de serviços públicos — e utilizações específicas, como certos modelos de avaliação de solvabilidade ou de risco em seguros de vida e de saúde, estão sujeitos a uma avaliação de impacto sobre os direitos fundamentais (FRIA). A obrigação varia com a natureza da entidade e o contexto de aplicação. Verifica com o teu consultor se a tua empresa está abrangida, dado que, em caso afirmativo, o estudo deve preceder a entrada em funcionamento.
Esta avaliação pormenoriza a finalidade do sistema, o universo de pessoas abrangido, os riscos potenciais para os direitos fundamentais e as salvaguardas implementadas para os atenuar. É um documento vivo que deve ser revisto ao longo do tempo, e não um mero registo arquivado. Trata-se de uma matéria com roteiro próprio, desenvolvida num guia dedicado. Assegura-te de que a linguagem utilizada é percetível mesmo para quem não domina a componente tecnológica.
6. Incidentes, avarias e reporte às autoridades
Se o sistema originar um incidente grave ou um mau funcionamento significativo, o utilizador tem de alertar o fornecedor e, nos moldes aplicáveis, as entidades reguladoras competentes. Clarifica previamente o que se qualifica como incidente grave no teu ambiente de negócio: um erro isolado, um padrão de desvios repetidos ou a exclusão injusta de um candidato. Dispor de uma definição escrita previne conflitos durante uma emergência, momento em que o tempo é escasso. Regista todos os controlos realizados, quer tenham resultado positivo ou negativo, para comprovar a tua atuação.
Desenvolve também um protocolo interno de contingência: quem é avisado, quem tem competência para interromper o funcionamento da ferramenta, de que forma se documenta o episódio e como se retoma o processo manual. Esta articulação com a continuidade de negócio é fulcral, pois uma ferramenta parada exige um processo de substituição fiável e testado. A integração com o plano de continuidade de negócio deve ser validada conjuntamente com os responsáveis operacionais.
7. Contratos e fornecedores: o que deves exigir
O contrato com o fornecedor é o instrumento indispensável para obteres as informações necessárias ao cumprimento legal. Exige documentação técnica sobre o uso previsto, manuais operacionais, restrições e riscos identificados, dados exigidos, rotinas de atualização e canais de notificação de incidentes. Se o fornecedor demonstrar incapacidade para responder a estas questões, essa própria lacuna constitui um fator de risco a assinalar. Solicita ainda o compromisso expresso de reporte de alterações que influenciem a tua utilização.
Verifica com rigor quem pode aceder à informação e em que localização geográfica os dados permanecem guardados, tratando estas duas questões de forma autónoma. Um parceiro que ofereça garantias genéricas de exatidão não te faculta os elementos precisos para demonstrar diligência perante terceiros. Exige por escrito tudo o que precisas para governar o sistema, desde a lógica de funcionamento até ao plano de atualizações. Se a resposta for ambígua, encara o risco como não mitigado e fixa uma meta para o resolver.
8. Temas a aprofundar neste domínio
Este documento atua como um guia de enquadramento. As questões que justificam uma análise autónoma englobam: como classificar as ferramentas segundo o nível de risco, que práticas se encontram estritamente proibidas, como conduzir a avaliação de impacto sobre os direitos fundamentais, como coordenar os requisitos do AI Act com o RGPD e que impactos decorrem para a gestão de pessoas. Cada reencaminhamento só é produtivo se o tema permanecer agendado com prazos e responsáveis atribuídos.
Caso já operes com uma ferramenta em produção, começa pela leitura do guia de classificação. Se recorres a algoritmos para recrutar ou monitorizar colaboradores, avança para o guia dedicado aos recursos humanos. Se constróis produtos assentes em modelos fundacionais fornecidos por terceiros, o guia de modelos de finalidade geral ajuda-te a aferir que dados técnicos deves recolher. Desta forma, consultas a informação certa no momento exato, transformando planos em medidas reais.
9. Como começar
Esta semana, identifica a ferramenta tecnológica que mais se aproxima de um cenário de alto risco na tua organização e solicita três elementos ao fornecedor: o manual de instruções, a descrição detalhada da finalidade prevista e as diretrizes relativas à supervisão humana. Com base nestes documentos, conseguirás discernir se o teu enquadramento é claro ou se necessitas de obter esclarecimentos adicionais antes de avançar. Não é preciso ter tudo resolvido para arrancar: o essencial é saber de onde partir e quem assume o projeto.
De seguida, designa um responsável interno para acompanhar esse sistema e convoca uma primeira sessão de alinhamento com o teu consultor de conformidade e com o departamento de recursos humanos, caso esteja envolvido. Não precisas de delinear um plano exaustivo logo no primeiro contacto. Precisas de clarificar quem decide, quem supervisiona e que dados continuam em falta. Fixa de imediato a data da próxima sessão para que o processo mantenha um ritmo constante.
Perguntas frequentes
A minha empresa utiliza um software de recrutamento: somos automaticamente classificados como de alto risco?
Não necessariamente de forma automática. O aspeto determinante reside no modo como aplicas o software. Se a utilização abranger a triagem, seleção ou avaliação de candidatos, insere-se num âmbito que o regulamento qualifica expressamente como sensível, exigindo verificação atenta. Se a ferramenta apenas organiza currículos ou envia notificações automáticas, o enquadramento altera-se. Efetua a classificação com base no uso efetivo e documenta formalmente os motivos.
Uma supervisão humana puramente formal é suficiente para cumprir a lei?
Não. A supervisão humana tem de ser efetiva e substancial: deve ser assegurada por alguém devidamente habilitado, com disponibilidade temporal e com autoridade hierárquica para escrutinar e, se necessário, suspender as decisões do algoritmo. Se o operador se limitar a aprovar todas as sugestões sem capacidade de intervenção, a supervisão é meramente aparente. Documenta quem são os supervisores, que formação obtiveram e que procedimento de intervenção seguem.
Sou obrigado a guardar os registos de atividade (logs) do sistema?
Regra geral, sim: a legislação determina que deves preservar os registos de atividade gerados pelo sistema durante o período estipulado pelas normas aplicáveis ao teu setor. A duração exata deve ser aferida com o teu consultor. Harmoniza esta conservação com a regulamentação de proteção de dados pessoais, dado que os registos podem conter dados identificativos e têm de ser tratados em conformidade.
O fornecedor da tecnologia é obrigado a explicar-me o funcionamento do algoritmo?
Tem a obrigação de disponibilizar informação suficiente e adequada para que possas utilizar o sistema em segurança e conformidade, nomeadamente instruções de operação, limitações identificadas e características dos dados requeridos. Não está necessariamente obrigado a divulgar código-fonte ou segredos comerciais. Para o teu trabalho precisas de orientações práticas, documentadas por escrito. Se a resposta for insuficiente, exige maior detalhe antes de avançar com o sistema.
O que sucede quando o fornecedor lança uma atualização de software?
Uma atualização pode introduzir novas funcionalidades, alterar limites operacionais ou criar novos riscos. Solicita ao fornecedor uma nota discriminada com as modificações efetuadas e avalia se o enquadramento de risco ou as rotinas de supervisão precisam de ser adaptados. Nunca presumas que uma atualização é inócua, sobretudo se tiver impacto na forma como as pessoas são analisadas ou pontuadas.
A partir de quando é que estas obrigações se tornam vinculativas?
As exigências do regulamento entram em vigor de forma faseada e podem sofrer adaptações por atos normativos subsequentes. Não deves orientar a estratégia da tua empresa com base em prazos recolhidos em sínteses informativas informais. Acompanha o calendário através do texto regulamentar consolidado com o teu consultor antes de assumires compromissos operacionais, estruturando o trabalho com antecedência.
Confiar plenamente no fornecedor basta para estar em conformidade?
Não. O fornecedor é responsável pelas caraterísticas técnicas do produto que comercializa, mas a utilização que lhe dás na tua organização é da tua exclusiva responsabilidade. O contrato serve para repartir deveres e garantir suporte de informação, mas não substitui a necessidade de manter supervisão própria, controlos internos e registos de conformidade. Conserva por escrito as respostas do parceiro e as deliberações internas, pois são a prova viva da tua governação tecnológica.