Em dezembro de 2023 foi publicada a norma internacional ISO/IEC 42001 – Sistema de Gestão de Inteligência Artificial. A versão em português ainda não foi publicada pela ABNT.
A norma especifica requisitos para estabelecer, implementar, manter e melhorar um Sistema de Gestão de Inteligência Artificial (SGIA) (baseado no PDCA – Planejar, Fazer, Verificar e Agir) em organizações públicas e privadas de qualquer segmento ou porte.
A norma foi concebida para entidades que FORNECEM OU UTILIZAM PRODUTOS OU SERVIÇOS BASEADOS EM IA, de maneira a assegurar garantindo o desenvolvimento e utilização responsáveis de sistemas de IA.
O texto da norma aborda os desafios relevantes para IA, como considerações éticas, transparência e aprendizado contínuo, além de trazer uma forma estruturada de gerir riscos e oportunidades associados à IA buscando o equilíbrio entre inovação com governança.
Segundo a ISO, os benefícios da adoção de uma SGIA podem incluir:
IA responsável: o uso ético e responsável da inteligência artificial.
Gestão de reputação: aumento da confiança nas aplicações de IA.
Governança de IA: apoia a conformidade com padrões legais e regulatórios.
Orientação prática: gerencia eficazmente os riscos específicos da IA.
Identificação de oportunidades: Incentiva a inovação dentro de uma estrutura estruturada.
A norma ainda traz um conjunto significativo de Anexos normativos e informativos, abordando aspectos como:
Objetivos referenciais de controle
Diretrizes de implementação para controles de IA
Potenciais objetivos e fontes de riscos organizacionais relacionados a IA
Uso do SGIA em áreas ou setores
Como toda norma de sistema de gestão, é possível às organizações contratar uma auditoria independente para confirmar a implementação e eficácia, com a finalidade de emitir um certificado de conformidade. Isso contribuiu fortemente à maior transparência aos diversos stakeholders afetados (empregados, clientes, poder público, fornecedores, acionistas etc.).
A ISO publicou também outras normas relacionadas podem contribuir com a gestão de IA, como a ISO/IEC 22989:2022, que estabelece a terminologia para a IA e descreve conceitos no campo da IA, a ISO/IEC 23053:2022, que estabelece uma estrutura de IA e aprendizado de máquina (Machine Learning – ML) para descrever um sistema genérico de IA usando tecnologia de ML, e a ISO/IEC 23894:2023, que fornece orientação sobre gestão de riscos relacionados à IA para organizações.
A TRADIUS Brasil , em conjunto com o CEAPD Inovação Educacional, de Brasília (coordenado pelo especialista Dr. Fabricio da Mota Alves ) vai lançar em breve um treinamento de Formação em Estratégias de Inteligência Artificial para Executivos C-LEVEL e Gestores Públicos, com instrutores do mais alto nível
Crédito: Jefferson Carvalho @ disponível no Linkedin 03/01/2024
ISO/IEC 42001 – Tecnologia da Informação – Inteligência Artificial – Sistema de Gestão
Foi publicada, no dia 18/12/2023, a ISO/IEC 42001 – Tecnologia da Informação – Inteligência Artificial – Sistema de Gestão, que especifica requisitos para estabelecer, implementar, manter e melhorar continuamente um Sistema de Gestão de Inteligência Artificial (AIMS).
O que é ISO/IEC 42001?
A norma ISO/IEC 42001 é um padrão internacional que define os requisitos para a estabelecer, implementar, manter e melhorar continuamente um Sistema de Gestão de Inteligência Artificial (AIMS) nas organizações. Ela foi desenvolvida para entidades que oferecem ou utilizam produtos ou serviços baseados em IA assegurando o desenvolvimento e a utilização responsáveis de sistemas de inteligência artificial.
A importância da ISO/IEC 42001
A ISO/IEC 42001 é o pioneiro padrão global para gestão de sistemas de inteligência artificial, oferecendo diretrizes valiosas para este campo tecnológico em constante evolução. Este padrão aborda os desafios singulares apresentados pela IA, incluindo considerações éticas, transparência e aprendizado contínuo. Para organizações, oferece uma abordagem estruturada para lidar com os riscos e oportunidades associados à IA, promovendo um equilíbrio entre inovação e governança.
Benefícios da ISO/IEC 42001
- Estrutura para gerenciamento deriscoseoportunidades
- Demonstrar o uso responsável da IA
- Rastreabilidade,transparênciaeconfiabilidade
- Redução de custoseganhos de eficiência
Qual o público-alvo da ISO/IEC 42001?
Empresas de variados portes envolvidas no desenvolvimento, fornecimento ou utilização de produtos ou serviços que se fundamentem em inteligência artificial. Este padrão é aplicável em todos os setores e é pertinente tanto para entidades governamentais quanto para empresas comerciais ou organizações sem fins lucrativos.
Este padrão se aplica a todos os sistemas de IA?
Sim, foi concebido para ser aplicável em diversas aplicações e cenários de inteligência artificial.
O que é um Sistema de Gestão de Inteligência Artificial?
Um sistema de gestão de IA, conforme descrito na ISO/IEC 42001, é um conjunto de elementos interconectados ou em interação dentro de uma organização, destinado a estabelecer políticas, objetivos e processos para alcançar esses objetivos, relacionados ao desenvolvimento, fornecimento ou uso responsável de sistemas de IA. A ISO/IEC 42001 estabelece requisitos e oferece diretrizes para criar, implementar, manter e aprimorar de forma contínua um sistema de gestão de IA no contexto organizacional.
Quais são os objetivos da ISO/IEC 42001?
A norma ISO/IEC 42001 proporciona às organizações a orientação ampla necessária para a utilização responsável e eficaz da IA, mesmo diante da rápida evolução tecnológica. Elaborada para abranger múltiplos aspectos da inteligência artificial e as distintas aplicações que uma organização pode estar conduzindo, oferece uma abordagem integrada para a gestão de projetos de IA, desde a avaliação de riscos até a efetiva mitigação destes.
Quais os principais benefícios da implementação da ISO/IEC 42001?
Esta Norma Internacional inclui os requisitos utilizados para avaliar a conformidade. Uma organização que deseje demonstrar conformidade com esta norma pode:
- IA responsável: garante o uso ético e responsável da inteligência artificial.
- Gestão de reputação: aumenta a confiança em aplicações de IA.
- Governança de IA: suporta a conformidade com padrões legais e regulatórios.
- Orientação prática: gerencia riscos específicos de IA de forma eficaz.
- Identificação de oportunidades: Incentiva a inovação dentro de uma estrutura estruturada.
Que tipo de padrões a ISO tem para IA?
A ISO tem uma série de normas que ajudam a mitigar os riscos e maximizar as recompensas da IA, incluindo a ISO/IEC 22989, que estabelece terminologia para IA e descreve conceitos no campo da IA; ISO/IEC 23053, que estabelece uma estrutura de IA e aprendizado de máquina (ML) para descrever um sistema de IA genérico usando tecnologia de ML; e ISO/IEC 23894, que fornece orientação sobre gerenciamento de riscos relacionados à IA para organizações.
A ISO/IEC 42001, por outro lado, é um padrão de sistema de gerenciamento (MSS). Implementar esse padrão significa implementar políticas e procedimentos para a boa governança de uma organização em relação à IA, usando a metodologia PDCA. Em vez de analisar os detalhes de aplicativos específicos de IA, ele fornece uma maneira prática de gerenciar riscos e oportunidades relacionados à IA em toda a organização. Portanto, fornece valor para qualquer negócio ou entidade.
ISO/IEC 42001 e os ODS da ONU
Esta norma contribui com os seguintes ODS – Objetivos de Desenvolvimento Sustentável:
Igualdade de Gênero: visa alcançar a igualdade de gênero e empoderar todas as mulheres e meninas.
Energia Limpa e Acessível: visa assegurar o acesso a fontes de energia acessíveis, confiáveis, sustentáveis e modernas para todos.
Trabalho Decente e Crescimento Econômico: promove o crescimento econômico sustentável, o emprego pleno e produtivo, e o trabalho decente para todos.
Indústria, Inovação e Infraestrutura: incentiva a construção de infraestruturas resilientes, a promoção da industrialização inclusiva e sustentável, e a fomentação da inovação.
Redução das Desigualdades: busca reduzir a desigualdade dentro e entre países.
Consumo e Produção Responsáveis: promove o consumo e a produção responsáveis, incluindo o uso eficiente de recursos naturais.
Vida na Água: visa conservar e utilizar de forma sustentável os oceanos, mares e recursos marinhos para o desenvolvimento sustentável.
Essas diretrizes são muito importantes para o desenvolvimento de aplicativos que operam com algoritmos de IA, os usuários e para autores que criam textos e devem ter seus direitos respeitados. Só entendo essas diretrizes norteadoras e a regulamentação de uso no Brasil estão atrasadas. Estão ainda em baixa velocidade, em contraste o desenvolvimento de algoritmos com IA.
O lançamento dessa Norma, visa garantir a segurança de todos.
Pela leitura do texto acima, ficou evidente essa necessidade em implementar tais medidas de segurança.