AWS
-
Изучите AWS Incognito для аутентификации
Независимо от того, создаете ли вы веб-приложение, мобильное приложение или API, понимание того, как реализовать надежную аутентификацию и авторизацию, является критически важным навыком. AWS Cognito — это мощный инструмент, который упрощает управление пользователями, аутентификацию и контроль доступа, что делает его незаменимой технологией как для разработчиков, так и для бизнеса. Освоив AWS Cognito, вы сможете создавать безопасные и масштабируемые приложения, интегрируясь с другими сервисами AWS. Если вы хотите улучшить свои навыки в этой области, у нас есть идеальный ресурс для вас.…
-
Обработка облачных данных с помощью DuckDB и AWS S3
DuckDb – это мощная база данных в памяти с функцией параллельной обработки, что делает ее отличным выбором для чтения/преобразования данных облачного хранилища, в данном случае, AWS S3. Я добился больших успехов, используя ее, и проведу вас через шаги по ее реализации. Я также поделюсь некоторыми уроками и лучшими практиками. Используя DuckDb, расширение httpfs и pyarrow, мы можем эффективно обрабатывать файлы Parquet, хранящиеся в бакетах S3. Давайте приступим: Прежде чем начать установку DuckDb, убедитесь, что у вас есть следующие предпосылки: Установлен…
-
Руководство по автоматизации развертывания инфраструктуры AWS
Когда дело доходит до управления инфраструктурой в облаке, AWS предоставляет несколько мощных инструментов, которые помогают автоматизировать создание и управление ресурсами. Одним из самых эффективных способов управления развертываниями является AWS CloudFormation. Он позволяет вам определять вашу инфраструктуру декларативным образом, что упрощает автоматизацию предоставления услуг AWS, включая Elastic Beanstalk, безсерверные приложения, экземпляры EC2, группы безопасности, балансировщики нагрузки и многое другое. В этом руководстве мы рассмотрим, как использовать AWS CloudFormation для программного развертывания инфраструктуры. Мы также обсудим, как вручную развертывать ресурсы через консоль…
-
Овладение переходом: от Amazon EMR к EMR на EKS
Amazon Elastic MapReduce (EMR) – это платформа для обработки и анализа больших данных. Традиционная EMR работает на кластере экземпляров Amazon EC2, управляемых AWS. Это включает в себя предоставление инфраструктуры и выполнение задач, таких как масштабирование и мониторинг. EMR на EKS интегрирует Amazon EMR с Amazon Elastic Kubernetes Service (EKS). Это позволяет пользователям гибко выполнять рабочие нагрузки Spark на кластере Kubernetes. Это обеспечивает единый подход к управлению и оркестрации вычислительных и хранилищных ресурсов. Основные различия между традиционной EMR и EMR на…
-
Когда отношения с техническим обслуживанием не складываются
Вспомните те дни, когда вы встретили любовь всей своей жизни. Чувства были взаимны. Мир казался лучшим местом, и вы находились в захватывающем путешествии со своим значимым другим. Вы оба были «в деле», когда строили планы на совместную жизнь. Жизнь была потрясающей… пока не стала такой. Когда дела не идут по плану, вам предстоит тяжелая работа по разрыву отношений. Общение друг с другом и с другими. Упорядочение совместных покупок. Движение дальше. Уф. Верите или нет, наши отношения с технологиями не так…
-
Автоматизация тестирования инфраструктуры AWS с помощью Terratest
Организации, принимающие Инфраструктуру как Код (IaC) на AWS, часто сталкиваются с проблемой обеспечения того, чтобы их инфраструктура не только была правильно предоставлена, но и функционировала так, как задумано, после развертывания. Даже незначительные ошибки конфигурации могут привести к дорогостоящему времени простоя, уязвимостям в безопасности или проблемам с производительностью. Традиционные методы тестирования — такие как ручная проверка ресурсов или полагание только на статический анализ кода — не обеспечивают достаточной уверенности для производственных сред. Существует настоятельная необходимость в автоматизированном, надежном способе валидации AWS…
-
Безопасность облачных услуг AWS: ключевые компоненты, распространенные уязвимости и лучшие практики
С переходом организаций в облако на быстрых темпах, обеспечение безопасности инфраструктуры имеет первостепенное значение в их списке приоритетов. Хотя AWS предоставляет разнообразный набор инструментов и услуг, связанных с безопасностью и соблюдением норм, существуют и другие факторы, помимо безопасности. Безопасность — это не только инструменты, но и стратегия, бдительность, постоянное совершенствование и соблюдение отраслевых стандартов соблюдения для безопасных сред, включая GDPR, HIPAA и PCI DSS. В этой статье мы обсудим компоненты безопасности AWS с лучшими практиками, основанными на глубоком анализе. Компоненты…
-
Каталоги Iceberg: Руководство для инженеров данных
Apache Iceberg стал популярным выбором для управления большими наборами данных с гибкостью и масштабируемостью. Каталоги являются центральными для функциональности Iceberg, что жизненно важно для организации таблиц, согласованности и управления метаданными. Эта статья рассмотрит, что такое каталоги Iceberg, их различные реализации, случаи использования и конфигурации, предоставляя понимание наилучших решений для каталогов для различных случаев использования. Что такое каталог Iceberg? В Iceberg каталог отвечает за управление путями к таблицам, указывая на текущие метафайлы, которые представляют состояние таблицы. Эта архитектура является важной, поскольку…
-
Настройка кластера ScyllaDB на AWS с использованием Terraform
В этой статье я привожу пример простой и быстрой установки ScyllaDB в облаке AWS с использованием Terraform. Изначально я планировал создать образ AMI ScyllaDB с помощью HashiCorp Packer. Однако позже я обнаружил, что существуют официальные образы, позволяющие легко настраивать ScyllaDB во время инициализации экземпляра с помощью пользовательских данных. Фактически, пользовательские данные могут определять все параметры, поддерживаемые в scylla.yaml. Дополнительные опции и примеры можно найти в репозитории GitHub scylla-machine-image. Что еще вам следует знать? Для автоматической конфигурации и запуска ScyllaDB необходимо…