Últimas Notícias

Os Sete Princípios que passam a orientar o trabalho de IA Google daqui para frente

No fundo, a IA é uma programação de computador que aprende e se adapta. Não pode resolver todos os problemas, mas seu potencial para melhorar nossas vidas é profundo. No Google, usamos a AI para tornar os produtos mais úteis, desde e-mails livres de spam e mais fáceis de compor , até um assistente digital com quem você pode falar naturalmente , até fotos que tiram o material divertido para você aproveitar.

Além de nossos produtos, estamos usando a AI para ajudar as pessoas a lidar com problemas urgentes. Um par de estudantes do ensino médio está construindo sensores alimentados por inteligência artificial para prever o risco de incêndios florestais . Os agricultores estão usando para monitorar a saúde de seus rebanhos . Os médicos estão começando a usar a inteligência artificial para ajudar a diagnosticar o câncer e prevenir a cegueira . Esses benefícios claros são o motivo pelo qual o Google investe fortemente em pesquisa e desenvolvimento de inteligência artificial e torna as tecnologias de inteligência artificial amplamente disponíveis para outras pessoas por meio de nossas ferramentas e códigos de código aberto.

Reconhecemos que essa tecnologia poderosa levanta questões igualmente poderosas sobre seu uso. Como a IA é desenvolvida e usada, terá um impacto significativo na sociedade por muitos anos. Como líder em IA, sentimos uma profunda responsabilidade de acertar isso. Então, hoje, estamos anunciando sete princípios para orientar nosso trabalho daqui para frente. Estes não são conceitos teóricos; eles são padrões concretos que governarão ativamente nossa pesquisa e desenvolvimento de produtos e terão impacto sobre nossas decisões de negócios.

Reconhecemos que esta área é dinâmica e evolutiva, e abordaremos nosso trabalho com humildade, compromisso com o engajamento interno e externo e disposição para adaptar nossa abordagem à medida que aprendemos com o tempo.

Objetivos para aplicativos de IA


Avaliaremos as aplicações de IA, tendo em vista os seguintes objetivos. Nós acreditamos que a IA deveria:


1. Seja socialmente benéfico.

O alcance expandido das novas tecnologias atinge cada vez mais a sociedade como um todo. Os avanços na IA terão impactos transformadores em uma ampla gama de áreas, incluindo saúde, segurança, energia, transporte, manufatura e entretenimento. À medida que consideramos o potencial de desenvolvimento e uso de tecnologias de IA, levaremos em conta uma ampla gama de fatores sociais e econômicos, e prosseguiremos onde acreditarmos que os benefícios prováveis ​​em geral excedem substancialmente os riscos e desvantagens previsíveis.

A IA também aprimora nossa capacidade de entender o significado do conteúdo em escala. Esforçar-nos-emos para disponibilizar prontamente informações de alta qualidade e precisas usando a IA, continuando a respeitar as normas culturais, sociais e legais nos países onde operamos. E continuaremos avaliando cuidadosamente quando disponibilizar nossas tecnologias em uma base não comercial.

2. Evite criar ou reforçar preconceitos injustos.


Algoritmos e conjuntos de dados de IA podem refletir, reforçar ou reduzir vieses injustos. Reconhecemos que distinguir preconceitos justos de injustos nem sempre é simples e difere entre culturas e sociedades. Procuraremos evitar impactos injustos sobre as pessoas, particularmente aquelas relacionadas a características sensíveis, como raça, etnia, gênero, nacionalidade, renda, orientação sexual, habilidade e crença política ou religiosa.

3. Seja construído e testado para segurança.

Continuaremos desenvolvendo e aplicando práticas fortes de segurança para evitar resultados não intencionais que criem riscos de danos. Nós projetaremos nossos sistemas de IA para que sejam cautelosos e procuremos desenvolvê-los de acordo com as melhores práticas em pesquisa de segurança de IA. Nos casos apropriados, testaremos tecnologias de AI em ambientes restritos e monitoraremos sua operação após a implantação.

4. Seja responsável perante as pessoas.

Nós projetaremos sistemas de IA que ofereçam oportunidades apropriadas para feedback, explicações relevantes e apelação. Nossas tecnologias de IA estarão sujeitas a direção e controle humanos apropriados.

5. Incorporar princípios de design de privacidade.

Incorporaremos nossos princípios de privacidade no desenvolvimento e uso de nossas tecnologias de IA. Daremos a oportunidade de notificação e consentimento, encorajaremos arquiteturas com salvaguardas de privacidade e forneceremos transparência e controle apropriados sobre o uso de dados.

6. Defender altos padrões de excelência científica.

A inovação tecnológica está enraizada no método científico e no compromisso de abrir a investigação, o rigor intelectual, a integridade e a colaboração. As ferramentas de IA têm o potencial de desbloquear novos domínios da pesquisa científica e do conhecimento em domínios críticos como biologia, química, medicina e ciências ambientais. Nós aspiramos a altos padrões de excelência científica enquanto trabalhamos para progredir no desenvolvimento da IA.

Trabalharemos com uma série de partes interessadas para promover uma liderança ponderada nesta área, com base em abordagens cientificamente rigorosas e multidisciplinares. E compartilharemos com responsabilidade o conhecimento de IA, publicando materiais educacionais, melhores práticas e pesquisas que permitam que mais pessoas desenvolvam aplicativos úteis de IA.

7. Ser disponibilizado para usos que estejam de acordo com esses princípios.

Muitas tecnologias têm vários usos. Trabalharemos para limitar os aplicativos potencialmente prejudiciais ou abusivos. À medida que desenvolvemos e implementamos tecnologias de IA, avaliaremos usos prováveis ​​à luz dos seguintes fatores:
  • Finalidade e uso principais : o objetivo principal e o provável uso de uma tecnologia e aplicativo, incluindo a proximidade da solução relacionada ou adaptável a um uso prejudicial
  • Natureza e singularidade: se estamos disponibilizando tecnologia única ou mais geralmente disponível
  • Escala : se o uso dessa tecnologia terá impacto significativo
  • Natureza do envolvimento do Google : se estamos fornecendo ferramentas de uso geral, integrando ferramentas para clientes ou desenvolvendo soluções personalizadas 

Aplicações de IA não vamos prosseguir


Além dos objetivos acima, não projetaremos nem implantaremos AI nas seguintes áreas de aplicação:
  • Tecnologias que causam ou podem causar danos gerais. Quando houver um risco material de dano, procederemos somente quando acreditarmos que os benefícios superam substancialmente os riscos e incorporaremos restrições de segurança apropriadas.
  • Armas ou outras tecnologias cuja principal finalidade ou implementação é causar ou diretamente facilitar o dano às pessoas.
  • Tecnologias que coletam ou usam informações para vigilância, violando as normas internacionalmente aceitas.
  • Tecnologias cujo objetivo contraria os princípios amplamente aceitos do direito internacional e dos direitos humanos.
Queremos deixar claro que, embora não desenvolvamos IA para uso em armas, continuaremos nosso trabalho com governos e forças armadas em muitas outras áreas. Estes incluem segurança cibernética, treinamento, recrutamento militar, saúde dos veteranos e busca e salvamento. Essas colaborações são importantes e procuraremos ativamente mais maneiras de aumentar o trabalho crítico dessas organizações e manter seguros os membros e civis do serviço.

AI para o longo prazo


Embora seja assim que escolhemos abordar a IA, entendemos que há espaço para muitas vozes nessa conversa. À medida que as tecnologias de IA progredirem, trabalharemos com uma série de partes interessadas para promover uma liderança ponderada nessa área, com base em abordagens cientificamente rigorosas e multidisciplinares. E continuaremos compartilhando o que aprendemos para melhorar as tecnologias e práticas de IA.

Acreditamos que esses princípios são a base certa para nossa empresa e o desenvolvimento futuro da IA. Essa abordagem é consistente com os valores estabelecidos em nossa Carta de Fundadores original em 2004. Nele, deixamos claro nossa intenção de adotar uma perspectiva de longo prazo, mesmo que isso signifique fazer concessões de curto prazo. Nós dissemos isso e acreditamos agora.

Nenhum comentário