Este post começou com dois artigos na Digidig.
Abe e tu, e eu, e cada um de nós. Acerca da relação com um algoritmo, por Toni Muzi Falconi.
L’insostenibile leggerezza dell’algoritmo, por Italo Vignoli.
A conversa torna-se mais importante a cada dia que passa. Toni e Italo estão a tentar que os profissionais de comunicação olhem para uma tempestade que se vê no horizonte. Senti que a conversa precisava de dar alguns passos atrás para avançar. Um dos quais é a nomenclatura, o outro está na abordagem.
Peço alguma paciência, pois fiz uma pesquisa mínima para escrever este post. Estou a utilizar algumas referências que tinha no Evernote, a minha própria sensibilidade em relação ao assunto, e o meu esforço em organizar informação para escrever o que segue abaixo. Qualquer coisa que deva ser corrigida pode ser comentada abaixo. Ficarei bastante agradecido por qualquer reparo que tenham.
Um formato de dados é simplesmente uma estrutura para a nossa informação e deverá ser legível para qualquer pessoa ou sistema. Utilizamos formatos de dados diariamente. Ficheiros Excel ou documentos Word podem ter a mesma informação, mas apenas um deles nos permite manipular os dados e organizá-los em fórmulas. Para as empresas onde os funcionários utilizam dispositivos Windows e Apple, há uma disputa que o Open Office pretende resolver ao padronizar os formatos de dados.
A palavra é tão usada que corremos o risco de a confundir com outra coisa. Um algoritmo é um conjunto de passos para resolver um problema. Utiliza um input, retirado de sensores ou ficheiros, e devolve informação que o utilizador, ou o sistema seguinte, irá utilizar para um determinado fim.
É uma ferramenta semelhante a um martelo ou a um berbequim. A nossa relação com ela define-se pela simplicidade e deixaremos de a utilizar assim que perder utilidade para os nossos objetivos.
À semelhança de qualquer ferramenta, medimos a sua utilidade sempre que a utilizamos e confiamos na sua qualidade com base na marca que a construiu.
(Acho que é útil distinguir entre algoritmo e uma espécie de gatilho. Por exemplo, o sensor de movimento em alguns edifícios de escritórios acenderá a luz quando detetar a presença de pessoas. Desligar-se-á após um período de inatividade. A simplicidade deste gatilho não deve ser considerada um algoritmo).
Permitam-me arriscar e dizer que uma Inteligência Artificial (IA) começa a formar-se aquando da construção de um sistema capaz de recolher autonomamente dados, comunicar informação a pessoas, e agir com base nessa mesma informação.
A Inteligência Artificial (IA) é a inteligência exibida pelas máquinas. Na informática, uma máquina "inteligente" ideal é um agente racional flexível, que deteta o seu ambiente e toma ações que maximizam as suas hipóteses de sucesso em relação a um determinado objetivo [1]
[1] O paradigma do agente inteligente:
Russell & Norvig 2003, pp. 27, 32–58, 968–972
Poole, Mackworth & Goebel 1998, pp. 7–21 Luger & Stubblefield 2004, pp. 235–240
Hutter 2005, pp. 125–126.
A definição utilizada neste artigo, em relação a objetivos, ações, perceção e ambiente, advém de Russell & Norvig (2003). Outras definições abarcam também o conhecimento e a aprendizagem como critérios adicionais.
Por exemplo, um carro automático receberá o input do utilizador (destino), utilizará um algoritmo para determinar o melhor caminho (coordenadas GPS e informações de tráfego) e conduzirá de forma a evitar obstáculos no caminho: outros veículos, pessoas, sinais vermelhos.
Atualmente, a nossa relação com a IA tem também objetivos prácticos na sua base. Quando escolhemos utilizar um determinado modelo ou uma determinada versão deste carro, essa opção dependerá mais da nossa confiança, onde acreditamos que o seu criador fez um bom trabalho. Comprarias um carro à Tesla ou à Microsoft?
Haverá IAs mais complexas, com algoritmos que nenhum ser humano pode compreender por completo. (Por exemplo, um avião utiliza muitos sistemas complexos, cuja dimensão não conseguimos discernir totalmente)
Façamos agora uma pausa e reflitamos sobre como será a nossa relação com estas novas entidades.
Foi isso que fez o Toni, tendo proposto os seguintes indicadores para esta relação.
Como tal, se for verdade que existem pelo menos quatro indicadores principais para ajudar a investigar e avaliar a qualidade de qualquer relação única:
- a confiança na relação por parte dos sujeitos dessa relação;
- a satisfação na relação por parte dos sujeitos dessa relação,
- o compromisso na relação por parte dos sujeitos dessa relação,
- o equilíbrio da influência recíproca na relação por parte dos sujeitos dessa relação... para além de outros indicadores especificamente relacionados com a natureza peculiar dos sujeitos da relação (indivíduo/indivíduo; organização/organização; algoritmo/algoritmo e um com os demais e vice-versa).
Por último, para progredirmos, estas são questões que poderiam ser aprofundadas:
- que baterias de perguntas precisam de ser respondidas pelos dois sujeitos da relação para cada um dos indicadores selecionados?
- que processos de IA precisam de ser criados para permitir que cada algoritmo individual – paralelamente ao único utilizador web – responda à mesma bateria de perguntas?
- que outros indicadores específicos precisam de ser eventualmente introduzidos, para além dos quatro referidos? Por exemplo: na relação entre organização e organização, por vezes é útil introduzir um indicador relativo aos diferentes perfis epigenéticos dos dois temas da relação;
- o que deverá ser considerado como uma razoável influência recíproca no equilíbrio de uma relação para cada um dos indicadores selecionados? Por exemplo: Na relação indivíduo/indivíduo, qualquer desequilíbrio óbvio resultante da resposta pode sugerir a qualquer um dos sujeitos ações para criar um melhor equilíbrio – a exceção poderá ser o indicador de influência recíproca, relacionado com pai/filho, professor/estudante, chefe/subordinado...obviamente, isto terá em conta as especificidades socioculturais do território onde a relação única se desenvolve... e o mesmo se aplicará às demais combinações possíveis.
No limite, podemos imaginar um futuro onde uma empresa existe e consiste exclusivamente numa IA ou um grupo de IAs. As empresas já são comparadas a robôs e os profissionais de comunicação dão o litro para que sejam “Autênticas” e “Humanas”.
O meu argumento é que estas IAs e Algoritmos são tão complexas que acabaremos por medir a confiança que temos nos seus criadores, e não a confiança que temos no sistema em si. Isto não significa que eu rejeitaria qualquer esforço para medir a confiança depositada na entidade artificial. Assim que deixar de haver registos do processo de criação, precisaremos de um diagnóstico criterioso da honestidade da IA.
Em relação a isto, a minha sugestão é que olhemos para outros filósofos da robótica, estabelecendo regras básicas e métodos que permitam manter a IA em cheque. À semelhança das regras da robótica de Asimov. Não será algo infalível, a menos que possamos auditar o código fonte e garantir que essas regras básicas estão presentes e são de facto utilizadas no processo de tomada de decisão.
Para tornar as coisas mais complicadas, este é um cenário onde a IA não é consciente de si mesma. Quando uma IA se torna consciente daquilo que é e consegue tomar decisões autónomas, irá mudar a relação que tem connosco e com outras IA. Nesse momento, o papel do criador na construção da IA começará a perder importância, pois não poderá prever os efeitos deste processo autónomo de tomada de decisão e a forma como terá impacto na evolução do sistema que foi construído.
Este cenário continua a implicar que a IA não tenha livre arbítrio. Utiliza a informação e o contexto do meio envolvente e toma decisões com base na sua experiência e orientações.
John Searle fez uma palestra na Google precisamente sobre este assunto.
O próximo passo lógico é questionar em que momento é que a IA possui livre arbítrio. É também onde defino a minha fronteira actual. O tema do livre arbítrio não é algo sobre o qual tenha reflectido com profundidade, por isso perdoem-me por regressar novamente a Searle sobre este tema.
Este tópico alimentou conversas interessantes entre amigos. A primeira das quais foi trazida pela Adriana. Ela referiu que apenas devemos chamar “inteligência” a algo quando esse elemento consegue produzir uma coisa nova. Assim, uma entidade não-humana capaz de processar o mundo à sua volta, e que desenvolve algo novo, pode ser considerada uma Inteligência Artificial.
Numa perspetiva diferente, Nuno Nunes teve a amabilidade de ler o artigo e salientou que, mesmo quando temos acesso ao código fonte, a forma como o sistema funciona pode ser tão complexa que não podemos auditá-lo e aferir a sua honestidade (à falta de uma palavra melhor).
Um exemplo são os Sistemas Deep Learning, onde os algoritmos transmitem dados e informação em diferentes camadas antes de produzir um output.
É também importante referir que, no conceito de algoritmos e IA, existem níveis diferentes de detalhe. Ele explicou que o que descrevi acima é uma função e não o algoritmo em si. O algoritmo é a lista abstrata de instruções, não a sua execução automática. Na IA, existe também o conceito de Agente. O Agente observa o ambiente e executa rotinas específicas com base nessa observação. Tal como aquilo que fiz quando construí o Johnny Five. (Falarei disto mais tarde, quando tiver tempo).
Mas, para os Profissionais de Comunicação, e outros elementos que lidam com as implicações da nossa relação com não-humanos, marcas e empresas, os traços gerais daquilo que constitui as IA são suficientes. Caso contrário, ficaremos bloqueados pela curva de aprendizagem.
Coloca o teu email para receber um email semanal com os últimos artigos.