O Que Estamos a Observar
Nos nossos contactos com líderes dos setores financeiro, da saúde e do setor público, observamos um padrão consistente: a euforia inicial em torno da IA generativa na nuvem pública está a colidir com a dura realidade da segurança empresarial e da soberania dos dados. Embora os modelos de base dos principais fornecedores de nuvem ofereçam capacidades incríveis, a perspetiva de enviar dados sensíveis de clientes ou propriedade intelectual para fora da firewall corporativa para inferência continua a ser inaceitável para muitos. Este atrito bloqueou inúmeros projetos de IA de alto valor, deixando os líderes divididos entre a pressão para inovar e o seu dever fundamental de gerir o risco.
É por isso que um recente artigo de investigação da IBM, que detalha um sistema completo de Geração Aumentada por Recuperação (RAG) a correr num mainframe, é um sinal tão significativo. O artigo, intitulado Spyre-Accelerated Retrieval-Augmented Generation on IBM LinuxONE: A Cloud-Native Architecture for Secure, High-Throughput Enterprise AI Inference, descreve uma arquitetura onde todo o pipeline de IA — da recuperação de dados à inferência do modelo — está contido numa única plataforma de hardware fidedigna. Isto valida uma tendência emergente que temos vindo a acompanhar de perto: a necessidade estratégica de uma IA segura on-premises para os casos de uso empresariais mais críticos.
O Número Que Muda Tudo
0
O número de vezes que os dados empresariais sensíveis saem do perímetro de hardware seguro na nova arquitetura RAG on-premises da IBM.
Quem Está na Frente e Porquê
O impulso para uma IA segura e local está a criar uma nova dinâmica competitiva. De um lado, temos intervenientes estabelecidos como a IBM, que estão a aproveitar o seu profundo legado em computação empresarial segura e de alta transação para construir um nicho defensável. Ao posicionar o mainframe não como um sistema legado, mas como um ‘dispositivo de IA seguro’ construído para o efeito, estão a jogar com os seus pontos fortes em confiança, fiabilidade e conformidade. Para a sua base de clientes existente nos setores da banca e dos seguros, esta é uma proposta aliciante que minimiza a disrupção arquitetónica e simplifica as auditorias regulamentares.
Do outro lado, estão os hyperscalers da nuvem pública — AWS, Google e Microsoft. Embora dominem o mercado de IA em geral, enfrentam dificuldades com estes casos de uso específicos de alta segurança. As suas soluções, como o AWS PrivateLink ou o Confidential Computing da Google, são tentativas de responder a estas preocupações, mas muitas vezes introduzem complexidade. Auditar um sistema distribuído que interliga múltiplos serviços de nuvem e ligações de rede privada é inerentemente mais desafiador do que validar um único dispositivo de hardware integrado. Como observado numa investigação da McKinsey sobre a nuvem híbrida, a gestão da segurança e da conformidade em ambientes híbridos continua a ser um dos principais desafios para as empresas. A abordagem da IBM contorna eficazmente essa complexidade para um problema específico e de alto valor.
A Lacuna que a Maioria das Equipas Não Vê
Muitas equipas de IA empresariais estão a descobrir uma lacuna dolorosa entre a capacidade funcional de um modelo e a sua implementação em conformidade. Uma prova de conceito que utiliza uma API pública com dados anonimizados pode parecer incrivelmente promissora, mostrando um enorme potencial para ganhos de eficiência ou novas experiências para o cliente. No entanto, o projeto muitas vezes paralisa quando as equipas de segurança e jurídica são envolvidas para aprovar a sua utilização com dados de produção reais e sensíveis. A conversa muda da precisão do modelo para a residência dos dados, os padrões de encriptação e a cadeia de custódia dos dados em trânsito e em repouso.
A lacuna que a maioria das equipas não vê está em subestimar o custo total da conformidade para a IA baseada na nuvem. O custo da inferência por token é apenas uma pequena parte da equação. Os custos reais, muitas vezes ocultos, são as horas de trabalho das equipas de segurança, jurídica e de conformidade necessárias para avaliar e monitorizar continuamente uma arquitetura de nuvem complexa e com múltiplos serviços. Uma solução integrada e on-premises reduz drasticamente esta superfície de risco e, consequentemente, os custos de governação. Transforma a conversa sobre segurança de um problema de sistemas distribuídos para um exercício de validação de uma única plataforma, o que é muito mais fácil de gerir para organizações reguladas.
Como Fechar a Lacuna
Fechar a lacuna entre a ambição da IA e a realidade da segurança exige uma abordagem pragmática e baseada no risco para a infraestrutura. Primeiro, recomendamos que os líderes de tecnologia reavaliem explicitamente o pressuposto ‘apenas na nuvem’ que dominou a estratégia de TI na última década. As exigências únicas da IA generativa, especialmente no que diz respeito à gravidade e segurança dos dados, exigem uma estratégia híbrida mais matizada.
Segundo, as empresas devem segmentar os casos de uso de IA por sensibilidade dos dados e impacto regulamentar. Um chatbot de marketing que utiliza informações públicas sobre produtos tem um perfil de risco muito diferente de um bot consultor de gestão de património que acede a dados financeiros de clientes. Esta segmentação permite uma estratégia de infraestrutura à medida: as cargas de trabalho de baixo risco podem aproveitar a escala e a flexibilidade dos modelos de nuvem pública, enquanto as cargas de trabalho de alto risco são direcionadas para um ambiente de IA segura on-premises. Esta abordagem por níveis é crítica para qualquer framework eficaz de Governação e Risco de IA.
Finalmente, as equipas de segurança e conformidade devem ser parceiras no ciclo de vida de desenvolvimento da IA desde o primeiro dia, e não um ponto de verificação final. Ao envolvê-las no design arquitetónico inicial, as equipas podem selecionar proativamente plataformas e padrões que são pré-aprovados para dados de alto risco, evitando meses de retrabalho e frustração quando um piloto promissor falha na sua revisão final de segurança. Isto é especialmente verdade para as empresas que navegam as complexidades da IA nas finanças, conforme detalhado no nosso whitepaper sobre IA Generativa nos Serviços Financeiros.
| Nível de Maturidade | Estado Atual | Próxima Ação | Cronograma |
|---|---|---|---|
| A Explorar | A executar PoCs em APIs de nuvem pública com dados anonimizados ou sintéticos. | Classificar potenciais casos de uso de produção por sensibilidade dos dados e risco regulamentar. | 1-2 meses |
| Em Pilotagem | A construir um piloto com dados sensíveis, encontrando frequentemente obstáculos de segurança e conformidade. | Avaliar arquiteturas de IA on-prem ou em nuvem privada virtual para o caso de uso específico de alto risco. | 3-6 meses |
| Em Escala | Um serviço de IA baseado na nuvem está em produção, mas apenas para dados de baixo risco e não sensíveis. | Desenvolver e ratificar uma estratégia formal de infraestrutura de IA híbrida que inclua um componente seguro on-prem. | 6-9 meses |
| A Otimizar | A executar uma combinação de cargas de trabalho de IA on-prem e na nuvem com base num framework de risco claro. | Padronizar ferramentas de governação, MLOps e monitorização de modelos em todo o ambiente híbrido. | 9-12 meses |
Esteja Atento a Estes Sinais
- Aceleradores de IA Especializados: Esteja atento ao desenvolvimento de hardware de IA para além das GPUs. Chips e placas construídos para tarefas específicas, como inferência segura (por exemplo, o Spyre da IBM) ou computação de ponta de baixo consumo, sinalizarão um amadurecimento do mercado para além do desempenho bruto de treino.
- Ofertas ‘On-Prem’ dos Fornecedores de Nuvem: Monitorize a evolução do AWS Outposts, Google Anthos e Azure Arc. O grau em que conseguem fornecer os seus serviços de IA geridos e de stack completo num ambiente verdadeiramente isolado (air-gapped) e controlado pelo cliente indicará com que seriedade estão a levar a procura empresarial por soberania de dados.
- Escrutínio Regulamentar: Preste atenção a novas leis de residência de dados e regulamentações de IA específicas do setor. Qualquer nova legislação que aumente o fardo da conformidade para os fluxos de dados transfronteiriços irá acelerar diretamente a procura por soluções de IA on-premises.
A Nossa Perspetiva
Acreditamos que o futuro da IA empresarial é fundamentalmente híbrido. A noção de que todas as cargas de trabalho migrarão para um punhado de nuvens públicas está a ser substituída por uma compreensão mais sofisticada do risco, do custo e da diferenciação competitiva. Para os casos de uso empresariais mais valiosos e sensíveis — aqueles que tocam na propriedade intelectual central e na confiança do cliente — a IA segura on-premises será um padrão arquitetónico não negociável.
A arquitetura RAG do LinuxONE da IBM é um dado poderoso, não por sinalizar um regresso a uma era passada da computação, mas por representar uma estratégia virada para o futuro que responde a uma necessidade empresarial duradoura. Prova que é possível fornecer IA segura, em conformidade e de alto desempenho dentro do perímetro da empresa. Para os líderes em setores regulados, esta abordagem oferece um caminho para desbloquear o valor da IA generativa sem comprometer os seus compromissos fundamentais com a segurança e a confiança. Na Thinkia, ajudamos os líderes empresariais a navegar nestas decisões críticas de infraestrutura, construindo estratégias de IA que são simultaneamente ambiciosas e exequíveis.