O iFood utiliza decisões automatizadas e modelos preditivos baseados no aprendizado de máquina para gerir desde atividades simples da rotina da empresa até nosso complexo sistema de logística. Hoje, a empresa conta com 124 modelos de inteligência artificial.
Parte desses modelos pode utilizar dados pessoais que são protegidos pela Lei Geral de Proteção de Dados (LGPD), e seu uso pode impactar de forma significativa nosso ecossistema. Surgiu, então, a necessidade de implementar um programa de governança de inteligência artificial (IA), com o objetivo de assegurar que os modelos sejam desenhados e aplicados de forma ética e responsável.
Para o programa ser eficaz e, ao mesmo tempo, permitir que a tecnologia seja explorada de forma ágil, combinamos a atuação dos profissionais envolvidos de acordo com três pilares: cultura, orientação e gestão.
O investimento em cultura institucional se dá por meio de capacitação e alinhamento interno sobre o uso adequado da tecnologia. O fomento da cultura para a utilização de IA responsável permite que os próprios colaboradores se questionem sobre o impacto que aquele modelo pode causar e potenciais vieses que venham a ter na sua construção. Havendo essa consciência, é possível antecipar potenciais riscos e mitigá-los.
Olhando para a orientação desses profissionais, é necessário que eles não só entendam o funcionamento da tecnologia como também ensinem-a o que é privacidade e ética. Isso é feito através do treinamento de modelos e algoritmos com base em fundamentos éticos que dialogam com princípios legais de privacidade, como: transparência, explicabilidade, não discriminação, segurança, robustez, responsabilidade e prestação de contas. A partir dessa abordagem, é possível fornecer à IA elementos que possibilitam a tomada de decisões futuras mais justas.
Realizado o investimento em cultura e orientação dos profissionais que lidam diretamente com a tecnologia, é fundamental gerir esses esforços para consolidar o programa de governança de modelos de IA. A sua gestão implica na adoção de medidas eficazes que corroboram para o uso diligente da IA, no registro de suas atividades, na formalização das recomendações legais e no acompanhamento de seu desenvolvimento e aplicação.
Trata-se de um trabalho constante e vivo no dia a dia da empresa que deve acompanhar os ritmos do desenvolvimento tecnológico, do mercado e da regulação. O avanço da inteligência artificial, com destaque para o crescente uso da IA generativa na vida cotidiana, torna indispensável que a ética e a privacidade acompanhem a inovação desde o princípio. Afinal, estamos só começando!
