Em setores altamente regulamentados, como o setor público, o interesse em IA está crescendo rapidamente. Mas também aumentam as questões que surgem com isso em relação a risco, compliance e controle.
Essas agências governamentais e organizações estão sob pressão para explorar a IA enquanto continuam protegendo dados que carregam obrigações legais, éticas e de confiança pública. Registros de cidadãos, informações classificadas e informações de segurança nacional ou de infraestrutura crítica não podem ser simplesmente movidos, mascarados ou expostos em nome da experimentação.
Por muito tempo, a soberania dos dados ofereceu uma estrutura relativamente clara para navegar por esse desafio.
Se os dados confidenciais permanecessem dentro das fronteiras do país correto, dentro de sistemas aprovados e sujeitos a controles de acesso bem definidos, as organizações poderiam estar confiantes de que estavam operando de forma responsável. O controle estava estreitamente vinculado à localização. Em um ambiente orientado por IA, essa suposição já não se sustenta.
A boa notícia é que a soberania na era da IA é alcançável. No entanto, para fazer é preciso ter uma compreensão mais prática e moderna do que a soberania de dados realmente significa em um contexto de IA.
O que é soberania de dados?
Em sua essência, a soberania dos dados trata do controle.
Ela define quais leis e regulamentos se aplicam aos dados, quem tem permissão para acessá-los e como esses dados podem ser usados, compartilhados e protegidos. Quando essas regras são claras, aplicadas, visíveis e auditáveis, a soberania de dados existe.
Este termo é frequentemente confundido com conceitos relacionados:
Residência de dados, que descreve onde os dados são armazenados fisicamente
Localização de dados, que restringe como os dados podem se mover através das fronteiras
Governança de dados, que define políticas de acesso, retenção e proteção
Cada um deles desempenha um papel importante na postura de segurança e conformidade de uma agência. Nenhum deles, no entanto, garante a soberania por si só. São mecanismos usados para apoiar esse resultado “soberano” mais amplo: controle sustentado e aplicável sob uma estrutura legal e regulatória definida.
Por que a IA mudou o cenário
Historicamente, uma vez obtido, esse controle (ou soberania) poderia ser considerado relativamente estável. A IA interrompeu essa conjectura.
Diferentemente dos sistemas de análise tradicionais, a IA faz mais do que ler ou processar dados. Ela aprende com eles, criando novas formas de informação, como modelos treinados, padrões aprendidos e insights derivados. Esses artefatos podem ser reutilizados, compartilhados e implantados em diversos ambientes, expondo potencialmente dados de treinamento confidenciais, mesmo quando os conjuntos de dados originais nunca são movidos.
Consequentemente, a soberania dos dados não pode mais ser avaliada apenas pela localização do armazenamento. Agora ela depende de como os sistemas de IA são projetados, treinados, implantados, governados e monitorados com o tempo. Por isso, para organizações regulamentadas, a soberania dos dados não pode ser tratada como uma etapa de conformidade adicionada depois que os sistemas de IA já estão em vigor. Para ter sucesso, ela deve fazer parte do projeto desde o início.
Estratégias de IA que respeitam a soberania
Quando a soberania de dados é tratada como uma reflexão posterior, as iniciativas de IA geralmente seguem um padrão familiar: os dados são copiados, centralizados ou movidos para novos ambientes para apoiar novas ferramentas e modelos. Embora isso possa acelerar a experimentação inicial, também aumenta o risco, enfraquece a supervisão e torna a conformidade de longo prazo mais difícil.
As organizações que adotam uma abordagem mais sustentável partem de outra premissa. Em vez de forçar a adaptação de dados sensíveis às ferramentas de IA, projetam estratégias de IA que respeitam as restrições existentes, como onde os dados residem, como são governados e quais regras se aplicam. Em setores regulamentados, essa mudança é fundamental.
Como é a soberania na prática
Na prática, as soluções de soberania de dados têm menos a ver com ferramentas individuais e mais com a forma como os dados, a governança e os sistemas de IA funcionam em conjunto em todos os ambientes. As organizações líderes se concentram em alguns princípios fundamentais:
Leve a IA aos dados
Em ambientes regulados, a movimentação de dados é, muitas vezes, a maior fonte de risco (ou, em alguns casos, é totalmente proibida). Copiar conjuntos de dados confidenciais para novas plataformas ou serviços em nuvem — mesmo que criptografados ou mascarados — aumenta a exposição e complica a conformidade.
Uma abordagem que prioriza a soberania inverte essa lógica. As cargas de trabalho de IA são projetadas para operarem próximas aos dados dos quais dependem, independentemente de esses dados residirem em ambientes locais, em ambientes de nuvem seguros ou em sistemas distribuídos. Minimizando a movimentação desnecessária, as organizações reduzem os riscos e mantêm um controle maior.
Aplique a governança em todo o ciclo de vida da IA
A tradicional governança de dados geralmente termina quando os dados são ingeridos ou analisados. Em um ambiente orientado por IA, a soberania depende de estender a governança por todo o ciclo de vida da IA, desde os dados brutos até o treinamento, a implantação, a reutilização e a desativação de modelos.
Isso inclui estender os controles de acesso, a linhagem e as políticas de uso além dos conjuntos de dados para os modelos e artefatos derivados criados a partir deles. Sem essa continuidade, as organizações podem estar tecnicamente em conformidade com as regulamentações, além de perderem a visibilidade sobre como as decisões orientadas por IA são tomadas.
Muitas iniciativas iniciais de IA enfrentam dificuldades aqui. As responsabilidades de governança estão fragmentadas entre ferramentas e equipes, dificultando a explicação de resultados ou a comprovação de conformidade. Uma abordagem de governança unificada, na qual as restrições estão vinculadas diretamente aos dados, permite que os programas de IA sejam escalados sem sacrificar a supervisão.
Mantenha a visibilidade, a linhagem e a responsabilidade
Em setores regulamentados, não basta presumir que os controles existam. Eles precisam ser demonstráveis.
As organizações precisam de uma visão clara de onde os dados vieram, como os modelos foram treinados e como as saídas de IA são usadas ao longo do tempo. Este requisito é especialmente pronunciado no setor público, onde a responsabilidade se estende além dos reguladores para auditores, órgãos de fiscalização e o público.
As decisões orientadas por IA talvez precisem ser explicadas anos depois de serem tomadas. A incorporação de transparência, linhagem e auditabilidade aos sistemas desde o início facilita a adaptação a novas regulamentações, a resposta a questionamentos e a manutenção da confiança pública.
A soberania de dados não é mais algo que as organizações abordam uma única vez e deixam de lado. Agora, é uma disciplina contínua que molda a forma como as organizações projetam, implantam e governam sistemas inteligentes.
A Cloudera foi projetada exclusivamente para dar suporte a essa abordagem, ajudando o setor público e outros setores regulamentados a desenvolver capacidades de IA que respeitam a soberania e possibilitam a inovação. Saiba mais sobre como ajudamos as organizações a fazer as duas coisas sem comprometimentos.
