O sistema financeiro em mudança – Parte 2

Tanto vantagens quanto desvantagens podem ocasionar possibilidades de eventos futuros e incertos ou de factores que suavizam os efeitos nefastos da IA. Nesta perspectiva, passamos em revista algumas realidades que podem consubstanciar riscos e mitigantes da IA.

Riscos

Segurança

Com a crescente dependência em algoritmos e sistemas autónomos, há uma preocupação significativa com a possibilidade de ataques cibernéticos direccionados a esses sistemas, seja manipulando algoritmos para resultados maliciosos ou explorando vulnerabilidades em sistemas autónomos, os ataques cibernéticos representam uma ameaça real à segurança da IA, distinguindo-se dentre os maiores perigos.

Privacidade de Dados

O uso indevido ou a violação de dados pessoais podem ter consequências graves, incluindo o risco de discriminação algorítmica – situação em que os algoritmos tomam atitudes discriminatórias ou exclusoras em relação a seres humanos – e violações da privacidade.

Governação de IA

Com a rápida evolução da IA, surge a necessidade de uma governação eficaz para garantir que a tecnologia é utilizada de maneira responsável e benéfica para a sociedade como um todo. Tal inclui questões relacionadas à regulamentação, supervisão e responsabilidade pelos sistemas de IA. A governação eficaz da IA, supõe diálogo colaborativo entre governos, empresas, académicos e a sociedade civil, o que pode incluir a criação de organismos reguladores especializados em IA e a elaboração de padrões éticos e legais que orientem o desenvolvimento e uso da tecnologia.

Impacto social e económico

A IA tem o potencial de causar impacto significativo na sociedade e na economia, considerando questões como empregos e o aumento da automação. Tais mudanças podem gerar tensões socioeconómicas, que, consequentemente, exigem resposta cuidadosa dos governos e das organizações.

Nota 1: no primeiro dia do mês em curso, uma franja importante de pessoas – actores de Hollywood -, mobilizou-se em protestos na cidade de Burbank, Condado de Los Angeles, no Estado da Califórnia – Estados Unidos da América -, por alegada utilização não consentida de IA e por compensações injustas. A crise gerou até o momento, perda massiva de empregos.

Mitigantes

Estabelecer princípios para orientar: um conjunto de princípios éticos adoptados e apoiados pela liderança fornece orientação para a organização. Os princípios, por si só, no entanto, não são suficientes para incorporar práticas responsáveis ​​de IA. As partes interessadas precisam considerar os princípios no contexto do trabalho diário para projectar políticas e práticas que toda a empresa apoie.

Considerar a propriedade da governanação: por sorte, muitos líderes nas organizações mostram-se interessados ​​em estabelecer práticas de governação para IA e dados. No entanto, sem especificar um proprietário para essa governação, é provável que uma organização se depare com um problema diferente – práticas discretas ambas eventualmente em conflito. Daí o ónus de identificar as equipas que devem projectar abordagens de governação em harmonia com um proprietário e um processo para rastrear actualizações nas políticas existentes.

Desenvolver processo bem definido e integrado para dados, modelo e ciclo de vida de software: implementar processos padronizados para desenvolvimento e monitoramento, com etapas específicas para indicar onde as aprovações e revisões são necessárias para prosseguir. Esse processo deve estar conectado aos mecanismos de governação de dados e privacidade existentes, bem como ao ciclo de vida de desenvolvimento de software.

Quebrar os silos: alinhar os grupos de partes interessadas necessários para conectar as equipas com o objectivo de compartilhar ideias e práticas de liderança. Criar inventários comuns para IA e dados apropriados ao processo de governação e socorrendo-se do mesmo como oportunidade para considerar mudanças estruturais ou realinhamentos que permitam melhor funcionamento dos negócios.

Ora, intrínseco às mudanças são os desafios, circunstâncias em vista as quais são concebidas estratégias e desenvolvidas acções. Neste sentido, é possível propor algumas categorias de desafios, que acometem sobretudo o Organismo de Supervisão (Banco Nacional de Angola):

1. Relativos aos colaboradores das instituições bancárias;
2. Relativos à conformidade e a transparência na comercialização dos produtos e serviços dotados de técnicas, modelos e tecnologias de IA (supervisão comportamental); 
3. Relativos aos riscos de liquidez a que se expõem as instituições bancárias na comercialização de produtos e serviços dotados de técnicas, modelos e tecnologias de IA (supervisão prudencial); e
4. Relativos à regulamentação; 

1. Como de resto se verifica nos diversos sectores de actividade, a IA supõe adaptações – autodescoberta e autorrealização do ser humano – que, na banca, pela complexidade dos temas e as particularidades do próprio trafico bancário, exigem dos colaboradores das instituições rigoroso domínio das matérias, sobretudo no que ao jurídico respeita.

Constata-se que fasquia considerável dos conflitos no campo bancário, subjazem nalgum precário domínio das matérias e em laicidade jurídica. O Direito, consabidamente, é uma «arma» com a qual o legislador atinge certa infinidade de situações da vida, portanto transcendente os campos do saber, pelo que se afigura vital não só a existência de normas coercíveis – jurídicas –, mas a intervenção de jurisperito nas relações, para garantir um mínimo razoável de estabilidade (segurança jurídica).

Neste diapasão, atente-se ao dever de conduta previsto no artigo 131.º (Dever de informação e assistência) da Lei n.º 14/21, de 19 de Maio, Lei do Regime Geral das Instituições Financeiras, cuja interpretação não se deve cingir ao seu conteúdo, mas ter em conta a razão de ser da lei (ratio legis), ou seja, o fim visado pelo legislador na sua elaboração, associado as circunstâncias políticas, sociais, económicas, morais, etc., em que foi elaborada ou da conjuntura político-económica-social que motivou a decisão legislativa (occasio legis). O que, portanto, dentre outros, sustentaria a necessidade de intervenção do jurisperito, no propósito de providenciar defesa àquela considerada «a parte mais fraca» – o consumidor. 

1. A transparência e a conformidade dos produtos e serviços de IA, pertinentes a supervisão comportamental – actividade da supervisão voltada para a defesa dos direitos e interesses dos consumidores – constitui preocupação não só pelo aspecto aludido atrás, mas, também, pelo acentuado nível de iliteracia financeira e digital. O dilema tem dupla faceta – das instituições e do consumidor -, o que só é possível contornar com a actuação activa e proactiva do Organismo de Supervisão, no sentido de estabelecer políticas e regras idiossincráticas de capacitação sobre a matéria aos colaboradores das instituições, bem como um processo de inclusão (financeira e digital) capaz de mitigar o quadro descrito.

Enfim, melhor em sofisticação, maior a complexidade, logo, mais necessidade de existência de mecanismos legais garantes de escrupulosa conformidade e transparência na comercialização dos produtos e serviços, bem assim, dissuasores de actos abusivos.

III. Os produtos e serviços dotados de técnicas, modelos e tecnologia de IA, indubitavelmente compreendem vultosos investimentos – para ideia aproximada, basta avaliar os custos de uso das aplicações disponíveis para smartphones -, que, apesar das vantagens lucrativas, expõem as instituições a riscos de liquidez, em virtude da eventual desproporcionalidade em relação aos retornos. Destarte, deve o Organismo de Supervisão actuar preventiva e sucessivamente, na tentativa de assegurar a manutenção da estabilidade financeira na comercialização, objectivando proteger não só a esfera dos consumidores, igualmente, a integridade das próprias instituições.

Nota 2: no dia 6 do mês em curso, o Valor Económico veiculou informação com o seguinte título “Banco testam inovações tecnológicas com precaução”. Excerto do conteúdo diz que “instituições mantêm investimentos pesados em tecnologia, mas adotam inteligência artificial generativa internamente e com cuidado antes de usá-la com clientes”.

1. Enfim, a existência de regras jurídicas, de per si, não garante segurança, à vista disso, é necessário que os mesmos sejam «rigorosamente» cumpridos e que se façam cumprir – compliance. 

Os processos legiferantes, tal-qualmente, os seus produtos finais – diplomas legais – podem padecer de vícios, sobretudo, no que toca a aptidão da norma para produção dos regulares efeitos jurídicos, no sentido de criar vínculos obrigacionais entre os indivíduos, gerando direitos e deveres entre estes (plano da eficácia) e a sua aceitação no meio social em que produzirá os efeitos jurídicos, traduzindo-se na receptividade desta com seu consequente acolhimento entre os indivíduos (plano de efectividade). O problema, pese embora estrutural e transversal aos sectores de actividade, tendo em conta os factores que constituem a base do subsector bancário, urge criar mecanismos para contorná-lo, sob pena de desencadear riscos que podem perigar a estabilidade financeira.

Em suma, apesar de constituir benefício e a experiência presente da IA ser deleitosa, malgrado, a prosperidade futura está condicionada a actuação competente e adequada das autoridades. Por isso, recomenda-se especial cautela na concepção e comercialização de produtos e serviços, sendo necessário garantir a prior, suficiente conhecimento, a existência de estratégias para eficiente rentabilização e aptaz a fazer face a eventuais perdas, sem descurar a plenitude das normas e o rigoroso cumprimento.