O Escritório Federal de Segurança da Informação da Alemanha (BSI) publicou, no início de agosto (2024), um white paper com o tema “Transparência de sistemas de IA”. O artigo técnico tem como objetivo enfatizar a importância de práticas confiáveis no desenvolvimento e na aplicação de inteligência artificial, a fim de garantir a confiança e a segurança nos processos.
De acordo com a organização, o número de sistemas de IA é crescente e a maioria deles não garante a transparência sobre o uso da tecnologia. Por isso, são considerados “caixas pretas”, tendo apenas as entradas e saídas dos sistemas visíveis para o exterior. Ou seja, boa parte deles são incompreensíveis e não disponibilizam as informações de forma adequada.
Diante disso, o BSI considera que, por meio da transparência, tanto os criadores de IA quanto consumidores dessa tecnologia poderão decidir se um sistema é adequado às suas necessidades ou não. “Entre outras coisas, evitar violações de direitos de autor, proteger os dados pessoais e a segurança informática desempenham um papel importante”, aponta o documento que define o termo de transparência.
Na prática, o white paper do BSI pretende acompanhar o progresso técnico do uso da tecnologia de forma ética, garantindo que os dados e informações sobre o ecossistema (o que inclui os fornecedores) sejam apresentados e estejam disponíveis a qualquer momento.
Destaques do white paper da Alemanha para uso de IA
A transparência é o ponto focal do documento, que é apoiado em algumas ações conjuntas.
• Sobre sistemas de IA: sistemas de software e hardware, além das diferentes abordagens e técnicas, como aprendizado de máquina, raciocínio de máquina e robótica, multiplicidade de funcionalidades e formas de implementação.
- Ecossistema em um sistema de IA, abrangendo operação e fornecedores. O white paper aponta a necessidade de transparência em todo o processo, ou seja, além do sistema de IA real.
- Disponibilidade de Informações: todas as partes interessadas devem ter acesso à informação para poder avaliar o sistema de IA.
- Ciclo de vida também deve ser transparente: desde a fase de planejamento e concepção, passando pelo projeto, desenvolvimento e validação, seguido pela fase de comissionamento e aplicação. A avaliação deve ser contínua, assim como as atualizações do sistema.
- Informações específicas: todas as necessidades e objetivos dos sistemas de IA devem estar disponíveis, independente do cenário de aplicação.
O white paper proposto pela Alemanha pretende estabelecer uma ligação entre os requisitos de transferência e a regulamentação de IA, para que seu uso seja cada vez mais ético e responsável.
