Baixe o app para aproveitar ainda mais
Prévia do material em texto
Armazenamento de dados distribuídos S3. Ciclo de vida de objetos e segurança. Ramilton C. Gomes Jr MSc Agenda · Armazenamento S3 · Prática · Ciclo de vida de Objetos · Segurança Armazenamento S3 Armazenamento S3 · Armazenamento de arquivos • Não se trata apenas de um repositório de documentos; • Apresentam características como: •Versionamento; •Segurança: controle de acesso, criptografia, etc; •Ciclo de vida. Armazenamento S3 · Armazenamento de arquivos cont... • Característica relacionada a big data: •Particionamento; •Escalabilidade. • Exemplos •S3; •HDFS; •Azure Blog Storage. Armazenamento S3 · Visão geral do AWS S3 • AWS S3 permite que pessoas armazenem objetos em buckets; • Buckets devem ser nome único global; • Objetos tem um chave. A chave é um caminho completo; •<bucket>/compras.csv •<bucket>/pasta1/compras.csv Armazenamento S3 · Visão geral do AWS S3 cont... • Tamanho máximo de um objeto é de 5tb • Tags de objetos, úteis para segurança e ciclo de vida; • Armazenamento de objetos: suporta qualquer tipo de arquivos: •ex. csv, json, parquet, orc, avro, etc. Armazenamento S3 · AWS S3: Particionamento • Por data: s3//<bucket>/compras/ano/mes/dia/h ora/compras.csv • Por produto: s3//<bucket>/compras/2541/compras. csv • Você pode decidir qualquer estratégia de particionamento; Prática do S3 Prática do S3 · Já logado no sistema 1 . Pesquise por S3 Prática do S3 Depois da pesquisa clique em S3 Scalable storage in the cloud. Prática do S3 Prática do S3 1. Informe o nome do bucket 2. Coloque América do sul – São Paulo 3. Lista de controle de acesso. Prática do S3 1. Controle de acesso público Prática do S3 1.Versionamento do bucket Prática do S3 1. Criação de tags para segurança. 2. Tipo de criptografia para acesso ao bucket 3. Clique a qui para criar o bucket Prática do S3 · Bucket criado. 1. Lista de buckets Prática do S3 1. Clique em cima do nome do bucket para ter acesso ao bucket criado. · Acessando o bucket criado Prática do S3 · Informações do bucket Informações sobre os objetos a serem carregado para o bucket. Como criar pastas, carregar arquivos, mostrar o tamanho do objeto, qual a sua última modificação, etc. Prática do S3 · Informações do bucket 1. Questões de propriedades do bucket. Como versionamento, tags, etc. Prática do S3 · Informações do bucket Questões de permissões do bucket, como acls. Prática do S3 Informação sobre as métricas do bucket, como tamanho total do bucket, números de objetos carregados, etc. · Informações do bucket Prática do S3 Gerenciamento do bucket, como regras de ciclos de vida, regras de replicação, configuração de inventário. · Informações do bucket Prática do S3 1. Click em EC2 virtual server in cloud. · Informações do bucket Informações sobre ponto de acesso. Prática do S3 1. clique o botão criar pasta. · Criando particionamento de compras Prática do S3 1. Informe o nome da pasta; · Criando particionamento de compras 2. Clique no botão criar pasta. Prática do S3 Pasta mês criado dentro do bucket alendd. · Dentro do bucket alendd, foi criado a pasta mês. Clique na pasta mês para criar as subpastas. Prática do S3 1. Clique no botão criar pasta para criar pasta dentro da pasta mês. · Agora dentro da pasta mês basta criar outra subpasta. Prática do S3 1.Para carregar os dados para a pasta criada, basta clicar no botão carregar. · Carregar os dados para a pasta criada. Prática do S3 1.Click aqui e localize o arquivo que será carregado. · Carregar os dados para a pasta criada. Prática do S3 Arquivo a ser carregado no bucket · Carregando o arquivo para o bucket Clique no botão carregar para carregar o arquivo no bucket. Prática do S3 · Tela de notificação sobre o carregamento do arquivo. Clique no botão fechar para retornar as informações da pasta no qual o arquivo foi carregado. Prática do S3 · Arquivo carregado na pasta 13 criada Clique em cima do arquivo para ver as propriedades do arquivo. Prática do S3 Informações sobre as propriedades do arquivo, como o caminho do arquivo, url para acesso do arquivo via internet. · Informações gerais do arquivo carregado. Copiar o caminho do arquivo no S3 Você poderá fazer o download do arquivo que está no bucket Você poderá abrir o arquivo que está no bucket Ações a serem realizadas no objetos. Ciclo de vida do objeto Ciclo de vida do objeto · S3 Storage – Camadas • Amazon S3 Standard – Uso geral; • Amazon S3 – Acesso infrequente; • Amazon S3 One Zone – Acesso infrequente; • Amazon S3 – Camada inteligente; • Amazon Glacier. Ciclo de vida do objeto · Regras do ciclo de vida do S3 • Conjunto de regras para mover os dados entre diferentes camadas, para reduzir custo de armazenamento; • Ações de transição: objeto faz a transição para outra classe de armazenamento; •Mover o objeto para uma classe IA depois de 60 dias da criação; Ciclo de vida do objeto · Regras do ciclo de vida do S3 cont... •Mover para Glaucier para arquivamento depois de 6 meses; • Ação de expiração: O S3 exclui o objeto expirado para nós; •Logs de acesso pode ser configurados para exclusão depois de um tempo. Ciclo de vida no S3 na prática Ciclo de vida o S3 na Prática · Nas informações do arquivo, na aba propriedade, procure por classe de armazenamento. Clique no botão editar para alterar a classe de armazenamento manual; Ciclo de vida o S3 na Prática · Alterar manualmente a classe de armazenamento do objeto; Opções para alterar o tipo de armazenamento no S3 Ciclo de vida o S3 na Prática · Criando regra de ciclo de vidas Para a criação da regra de ciclo de vida, basta clicar na aba Gerenciamento. Ciclo de vida o S3 na Prática · Criando regra de ciclo de vidas Repare que ao carregar a página, o primeiro item é a regra de ciclo de vida. Como não tem nenhuma regra criada, ela aparece com valor zero(0) do lado da sua descrição. Basta clicar no botão criar regra de ciclo de vida para criarmos as regras. Ciclo de vida o S3 na Prática · Criando regra de ciclo de vidas 1. Insira um nome para sua regra. 2. Escolher se a regra será aplicada a todos os objetos do bucket ou somente ao objeto específico. 3. Caso queria aplicar a todos os objetos do bucket. Você poderá aplicar um prexifo. Por exemplo: Aplicar a regra a todos os objetos que inicia com o nome compra. Ciclo de vida o S3 na Prática · Criando regra de ciclo de vidas 4. Especificar um tamanho para que a regra possa entrar em vigor 5. Ações a serem tomadas de acordo com a nossa escolha. Por exemplo: excluir permanentemente objetos desatualizados. 6. Clicar no botão para a criação da regra. Ciclo de vida o S3 na Prática · Criando regra de ciclo de vidas 1. No momento que eu marco em ações de regras de ciclo de vida, em mover versões atuais de objetos entre classes de armazenamento. Esse item vai aparecer. Ciclo de vida o S3 na Prática · Criando regra de ciclo de vidas 1. No momento que eu marco em ações de regras de ciclo de vida, expirar versões atuais de objetos. Esse item irá aparecer. Ciclo de vida o S3 na Prática · Criando regra de ciclo de vidas 1. Escolher o tipo de classe de armazenamento 3. Adicionar uma nova transição de classe de armazenamento. 2. Colocar a quantidade de dias para mudar de classe de armazenamento. 4. Botão para remover uma regra de transição. Ciclo de vida o S3 na Prática · Criando regra de ciclo de vidas 1. Informar quantos dias após o objeto será excluirdo. Análise da regra criada. 2. Clique no botão criar regra para a criação da mesma. Ciclo de vida o S3 na Prática · Depois da criação da regra. Segurança Segurança · Criptografia S3 para Objetos •Existem 4 métodos de criptografia para objetos S3: •SSE-S3 – Criptografiaobjetos S3 usando chaves criadas e gerenciadas pelo AWS •SSE-KMS – Usa o serviço de gestão de chaves do AWS para gerenciar chaves criptografadas Segurança · Criptografia S3 para Objetos cont... •Existem 4 métodos de criptografia para objetos S3: •SSE-C – Quando você quer gerenciar a sua própria chave; •Criptografia dos dados no lado do cliente; Segurança · SSE-S3 Segurança · SSE-KMS Segurança · Segurança no S3 • Baseado em usuário •Políticas IAM – quais chamadas de API devem ser permitidas para usuários específicos; • Baseados em recursos •Políticas de Bucket – regras abrangentes de bucket – permitem contas cruzadas; Segurança · Segurança no S3 cont... • Baseados em recursos •Lista de controle de acesso a objetos – ACLs – controle mais detalhado; •Lista de controle de acesso ao bucket – ACLs – menos comum; Segurança · Políticas de buckets S3 • Política baseadas em confguração JSON •Recursos: bucket e objetos; •Ações: definir API para permitir e negar; •Efeito: Permitir / Negar; •Principal: A conta ou usuário que aplica a política; Segurança · Use a Política de Bucket S3 para: • Dar acesso público a um bucket • Forçar objetos a serem criptografados no upload; • Dar acesso a outras contas (conta cruzada) Segurança · Use a Política de Bucket S3 para: • Dar acesso público a um bucket • Forçar objetos a serem criptografados no upload; • Dar acesso a outras contas (conta cruzada) Prática de Segurança S3 Segurança na prática S3 · Em propriedade do bucket, vá até criptografia padrão. Para editar a configuração da criptografia. Basta clicar no boão editar. Segurança na prática S3 · Em propriedade do bucket, vá até criptografia padrão. 1. Escolha o tipo de chave criptográfica 2. Click em ativar. Para que as configurações possam ser ativadas. 3. Click no botão salvar alterações para as configurações entrarem em vigor. Segurança na prática S3 · Em propriedade do arquivo, vá até criptografia padrão. Click no botão editar para editar a configuração da criptografia do arquivo. Segurança na prática S3 · Editando as configurações de criptografia no arquivo. 1. Escolha o tipo de criptografia. 2. Click no botão salvar alterações para que as alterações entre em vigor. Segurança na prática S3 · Editando as configurações de criptografia no arquivo. 1. Escolha o tipo de criptografia. 2. Click no botão salvar alterações para que as alterações entre em vigor. Segurança na prática S3 · Caso você queira substituir a configuração do bucket. Irá aparecer a opção para você selecionar o tipo de criptografia desejada. 1. Escolha o tipo de criptografia. 2. Click no botão salvar alterações para que as alterações entre em vigor. Segurança na prática S3 · Ao selecionar o tipo da chave Chave do AWS Key Management Service (SSE- KMS). Você poderá criar a sua própria chave. 1. Escolha o tipo de chave AWS KMS. 2. Escolhendo a opção inserir ARN da chave do AWS KMS. Você poderá criar a sua própria chave. Slide 1 Slide 2 Slide 3 Slide 4 Slide 5 Slide 6 Slide 7 Slide 8 Slide 9 Slide 10 Slide 11 Slide 12 Slide 13 Slide 14 Slide 15 Slide 16 Slide 17 Slide 18 Slide 19 Slide 20 Slide 21 Slide 22 Slide 23 Slide 24 Slide 25 Slide 26 Slide 27 Slide 28 Slide 29 Slide 30 Slide 31 Slide 32 Slide 33 Slide 34 Slide 35 Slide 36 Slide 37 Slide 38 Slide 39 Slide 40 Slide 41 Slide 42 Slide 43 Slide 44 Slide 45 Slide 46 Slide 47 Slide 48 Slide 49 Slide 50 Slide 51 Slide 52 Slide 53 Slide 54 Slide 55 Slide 56 Slide 57 Slide 58 Slide 59 Slide 60 Slide 61 Slide 62 Slide 63 Slide 64 Slide 65 Slide 66 Slide 67 Slide 68
Compartilhar