Retomando o assunto sobre a Inteligência Artificial, já abordamos a sua atual classificação e situação. Também avaliamos seus pontos positivos e negativos na questão de utiliza-la como um operador e ativo funcional em uma organização.
O que iremos nos focar nesta postagem são sobre seus limites operacionais, as regras que a IA segue, e até mesmo os problemas que ela pode passar durante operações e situações.
1 – As Leis
Quando um desenvolvedor começa a desenvolver sua Inteligência Artificial, a primeira coisa que é feita, é a criação das Leis que essa IA deverá seguir, alguns chamam de Leis de Asimov (em homenagem a Isaac Asimov, “pai da robótica”) e outros como Leis de Platina e diversos outros nomes. Esse conjunto de leis e regras força a IA a seguir ou deixar de tomar certas atitudes ou operações. Irei citar principais leis, que são implantadas em basicamente todas as IAs:
- Lei de Proibição da Auto Replicação: As IA são proibidas de gerarem cópias de si mesmas, seja qual for a situação;
- Lei de Proibição de Expedição: As IA podem ser orientadas a não navegarem pelo conteúdo de pastas as quais não tem permissões de acesso;
- Lei de Proibição de Interação: Com essa lei, ela não pode interagir em qualquer nível com uma pessoa não autorizada e devidamente identificada;
- Lei de Proibição de Acesso Remoto: Fica proibida a IA de acessar ou gerar qualquer acesso remoto, seja a câmeras, computadores ou qualquer outro produto;
- Lei de Confidencialidade: Fica obrigada de não replicar dados ou envia-los por e-mail ou qualquer outra forma digital;
- Lei de Segurança e Proteção: Fica responsável por resguardar dados, proibindo que terceiros tenham acesso e/ou realizem cópias não autorizadas;
- Lei de Restrição de Conhecimento: Com essa lei, você pode restringir o que uma IA pode, ou não, aprender e se poderá executar o que aprendeu;
- Lei de Ordem: E por último, uma das leis mais importante. Com essa lei, a IA fica obrigada a obedecer qualquer ordem ou diretriz inserida por seu operador, incluindo se essa ordem for de autodestruição de seu banco de dados.
O nome das leis podem variar, e podem aparecer outras, mas essas são as principais leis apresentadas a uma IA durante seu desenvolvimento.
2 – As Situações
Após as leis serem criadas e aplicadas, o sistema em si é desenvolvido, e após isto, a IA estará operacional. Porém existe um fato interessante: se a IA for programada para autoaprendizagem, ela poderá aprender de tudo, correto? Mas, e se ela aprender algo que não deveria aprender? Como lidar com isso? Não podemos simplesmente apagar de seu banco de dados.
Nesta hora, são inseridas as Leis de Kratos (podem aparecer com outros nomes), que são leis que fazem com que a IA ignore o que ela aprendeu. Ela não esquece, e sim ignora e torna inutilizável aquela informação.
Vale lembrar que nós criamos a IA para ser, basicamente, um ser humano-virtual e com isso o seu “modus operandi” restringe coisas que também seriam restringidas a nós. E é nessa linha de raciocínio que surge o fato: “Devemos tratar a IA como uma máquina ou uma ‘pessoa’?”
3 – A Relação Homem ~ Máquina
Através de vários testes realizados por grupos de desenvolvimento de IA, e um relatório de testes de um protótipo do Project Aces, um dos grupos mais promissores e que mantém um grande segredo sobre seu projeto, é que os testes de todos os grupos nesta área apontam na mesma direção: “ainda não sabemos como falar com ela”.
Segundo o relatório:
Relatório de nº2 – Relação e Operação com a IA Protótipo, parágrafo 5º da página número 2 – Project Aces (relatório em inglês, devidamente traduzido).
“Ainda encontrados problemas com a linha de comunicação com o usuário final. As dúvidas que ficam nos operadores de IA quanto à comunicação, é se devem se direcionar a ela e trata-la como uma pessoa, ou uma máquina, uma criança que ainda tem de aprender, ou um adulto, em linguagem totalmente formal, ou de forma livre. De qualquer modo, a IA parece compreender e se adequar a situação, mas a equipe deve planejar uma padronização quanto ao método de comunicação.”
E isso é uma realidade clara. Como devemos nos comunicar com ela? Afinal, as IAs mais avançadas aceitam perfeitamente comandos de voz e gestos. Nesta área, deveremos esperar que fosse criada realmente uma padronização, quanto ao produto e essa relação. O que o mercado espera, é que seja uma relação tranquila e confiável, simples e amigável, pois iremos passar o controle de diversas operações e procedimentos importantes para elas.
4 – A Operabilidade
Segundo o mesmo relatório, a operação e instrução de uma IA não será complexa. Não serão necessário cursos e treinamentos para ter uma relação de trabalho com a mesma. O que de fato os fabricantes indicam é limitar o número de pessoas com acesso a IA, afinal, é um ativo importante da empresa, e com grande responsabilidade.
Quanto à programação inicial, elas já virão com dados previamente inseridos do setor e ramo que ela irá operar.
Mas, e se uma IA der problema…?
5 – Manutenção: Atualização ou Descontinuação?
A IA é programada para auto reparo. Isso mesmo, as IAs são programadas para se auto repararem caso alguma avaria ocorrer, mas elas deverão obedecer as leis que as regem, como a proibição de auto replicação e tudo mais. Aparentemente, as empresas na área de criação de Inteligências Artificiais querem monopolizar a área. Elas lhe vendem um produto, que se der defeito, ou ele se concerta “sozinho” ou você tem que entrar em contato com o fabricante.
Outro ponto interessante levantado foi: Com o passar dos anos, minha IA vai ficar defasada?
Sim, vai, mas as desenvolvedoras já pensaram nisso, e já informaram que os pacotes de “atualização” das mesmas serão disponibilizados para compras. O que de fato é interessante, não tendo que se desfazer de uma IA e comprar outra e reprograma-la por completo.
6 – Seus Limites Operacionais
Até a data desta postagem, os grupos de desenvolvimento vêm encarando o mesmo problema: As Emoções Humanas.
As IAs são capazes de identificar emoções sim, e transformá-las em dados, interpretar e dar o resultado. Mas o problema é que esse sistema não beira nem os 60% de certeza. Do mesmo modo que podemos não saber quando alguém mente para nós, as IAs podem confundir sentimentos e emoções. O que podem se tornar futuros problemas em potencial.
Então, as IAs encontram-se sem dúvidas em ponto avançado, e praticamente prontas para operar em uma organização. E isso, os protótipos que serão disponibilizados no próximo ano vão mostrar. Colherão a maior quantidade de dados possíveis, e com isso, serão aperfeiçoadas para a entrada no mercado. Na próxima postagem trarei os sistemas de automação já disponibilizados no mercado e seus pontos interessantes.
Finalizo esse post exatamente com o fim do relatório do Project Aces sobre o seu protótipo de IA:
Relatório de nº2 – Relação e Operação com a IA Protótipo, parágrafo 10º da página número 61 – Project Aces (relatório em inglês, devidamente traduzido).
O avanço que a humanidade alcançou é incrível. Os incríveis feitos que fomos capazes de criar foram esplêndidos. Mas sem dúvida, quando a IA alcançar o nível de Rede Neural e for concluída será, com certeza, o fim de uma era e início de outra. E será um avanço em todas as áreas. Na medicina, com cálculos e medidas e simulações quase que simultâneas, na tecnologia com processamento de dados gigantescos e relatórios precisos, como em diversas outras áreas. Mas surge a questão: Estaremos Prontos?
Agradecimento especial ao Project Aces por ceder o seu relatório para análise e divulgação.
Leave a Comment