“Não podemos controlar os ventos, mas podemos sempre ajustar as velas”
Esta é a frase (Costuma ser atribuído a muitas pessoas, como Confúcio e Dolly Parton, mas acredita-se que seja uma variação de um pensamento de Cora L. V. Hatch, proferido em uma palestra em 1859) que vem à mente quando falamos de IA. Com a “febre” do Chatgpt (Microsoft) e Bard (Google) este tema deve e precisa ser discutido de forma estruturado nas empresas.
O Vento
Ninguém, com um pouco de bom senso discute que as IA trazem ganhos produtivos. As IA chegaram para ficar isso não está mais em questão.
Ajustar as Velas
As empresas precisam discutir e definir processos de como utilizar de forma inteligente , segura e ética. Devem ser criados processos claros dos limites éticos, culturais e tecnológicos garantindo a evolução e crescimento profissional dos envolvidos que a utilizam incentivando a análise crítica dos resultados em todos os seus aspectos , alinhados com os propósitos da empresa.
Não existem garantias hoje, que um resultado gerado por IA seja de fato real ou correto, basta que na base de dados da IA seja relevante (Se uma grande quantidade de dados sobre um mesmo assunto/tópico se repete mesmo não sendo verdade isso é relevante…)
Solicitar a uma IA a geração de um código para resolver um cenário de negócio não é um problema, porém apenas utilizar a resposta se torna um problema em potencial. A repetição deste processo (gerar/utilizar) induz o desenvolvedor a não pensar, não entender e confiar que o resultado é a solução dos seus problemas. O aprendizado e a maturidade vêm através da repetição e correções dos erros cometidos com o entendimento mais aprofundado dos conceitos envolvidos na solução.
Corremos o risco de temos uma geração de desenvolvedores de “prompts de IA” que entregam uma grande quantidade de código e não conseguem discernir os conceitos da plataforma e stack que utilizam
Esta atitude pode prolongar o status de “Junior/Pleno” por não terem a capacidade analítica de escolher o que deve ou não ser utilizado e por quê.
Sobre o viés da ética
Precisamos avaliar questões de copyright /plágios, uso de imagens, texto sem as devidas citações e atividades danosa para empresa e sociedade.O fato de estar na base de conhecimento das IA e na internet e de livre acesso não quer dizer que é público sua utilização sem os devidos créditos, permissões e consequências. A quem devemos questionar e/ou mover um processo por estas questões?
Quem utilizou e/ou a empresa detentora da IA Que no papel de “coprodutor” induziu o utilizador a fazer uso destas informações sem as devidas ressalvas e esclarecimentos de todas as consequências de forma explícita e clara? já existem casos de métodos para contornar o filtro de segurança das IA fazer perguntas até mesmo antiéticas.
Sobre o viés de segurança
Os dados internos e informações confidenciais podem ser expostos por uso indevido de contas pessoais ou mesmo empresariais. A área de compliance deve estabelecer os limites e forma de uso da IA para que sua utilização esteja de acordo os objetivos e propósitos da empresa, dentro dos limites de segurança da informação e sobre as diretrizes da LGPD (Lei Geral de Proteção de Dados Pessoais). Já existem casos de vazamentos de senhas e exposições indevidas de dados com a utilização de IA.
Navegando o barco
Os ajustes das velas, reconheço que foram expostas de forma “rasa”. A intenção é apenas instigar as reflexões sobre as utilizações e as consequências que os ganhos e resultados oferecem. Com a evolução natural do uso das ferramentas pelas empresas detentoras da IA devem existir revisões constantes pela áreas de compliance, tecnologia , segurança e cultura da empresa. O objetivo é buscar o equilíbrio entre performance/produtividade e utilização inteligente, segura e alinhada com os interesses das empresas.
Tenham um excelente dia! Eu sou Fernando Cerqueira e entrego estratégias digitais para os desafios do presente, com propostas de inovação para um futuro sustentável.
