A incrível história do homem demitido por um robô – sem o conhecimento dos seus superiores.

compliance inteligência artificial

Parece a versão atualizada para uma realidade distópica do livro O processo, de Franz Kafka. Mas não é. Aconteceu de verdade. O cidadão foi demitido por uma máquina e ninguém estava sabendo até então. Nem seus chefes. A notícia vem circulando em vários portais (https://bit.ly/2KmIF0lhttps://bit.ly/2N0VwHi ou https://bbc.in/2MhoVLS). Foi a inteligência artificial.

Apenas um problema corriqueiro.

A história surreal aconteceu em uma empresa de Los Angeles. Um certo dia, Ibrahim Dallo, que tinha sido destacado para trabalhar em um projeto de desenvolvimento de software com previsão de duração de três anos, não conseguiu entrar na empresa porque seu cartão de acesso foi bloqueado. Um mero aborrecimento ao qual ninguém deu valor, pois tudo foi resolvido com um cartão provisório.

Resumindo a história, Ibrahim, no dia seguinte, perdeu acesso aos sistemas, o RH entrou em contato para avisá-lo que havia sido demitido, a gerente dele buscou a diretoria para entender o que estava acontecendo e o diretor determinou que o suporte resolvesse a questão. Afinal, Ibrahim era um bom funcionário e ninguém o havia demitido. No dia seguinte, não só não acessou o sistema, como os seguranças tinham recebido ordens – por e-mail – para o colocarem para fora do prédio.

A inteligência artificial.

A empresa levou três semanas para entender o que aconteceu no caso de Diallo: seu gerente inicial havia sido demitido e, nos dias restantes de trabalho, não renovou o contrato de Ibrahim no sistema.

O robô assumiu daí em diante e a sucessão de e-mails para o RH, a gerência e a segurança foi consequência natural prevista no sistema. Depois dessas três semanas, Ibrahim voltou ao seu posto, mas sentiu um distanciamento de seus colegas de trabalho (foi difícil explicar toda essa situação, ainda mais sendo colocado para fora por seguranças da empresa). Pediu demissão.

Sua história está detalhada em seu blog, em “The machine fired me“.

Transformação digital.

A evolução tecnológica traz vantagens e riscos. O exemplo acima é um espécie de “A comédia dos erros”, de Shakespeare, dos tempos modernos. Sem final feliz, mas que traz lições e obriga a reflexões. Trabalho conjunto de diversas áreas da empresa é um fator que leva a identificar e mitigar riscos. Esse tema já foi tratado no blog, como se vê clicando aqui ou aqui.

Inteligência artificial e outras tecnologias não são as vilãs da história. A falta de preparo e de conversa entre setores que devem se entender (jurídico, TI, RH) causam muito mais problemas do que as rupturas que a inovação traz.

Os cuidados devem ser tomados em todos os segmentos da estrutura. Mas os segmentos devem se comunicar. Afinal, quando a proteção computacional falha, o que resta é a proteção jurídica.