В этой статье разберём, для решения каких задач DevOps-специалисты могут использовать Python. Посмотрим на взаимодействие Python с системами контроля версий (CVS), инструментами CI/CD и другими аспектами DevOps.

Системы контроля версий 

Системы контроля версий, такие как Git, помогают отслеживать изменения, управлять ветками и обеспечивать непрерывность разработки. Есть много библиотек и инструментов для работы с CVS в Python. Например, библиотека  GitPython, которая позволяет автоматизировать задачи, связанные с управлением репозиториями. Вы можете взаимодействовать с репозиториями Git прямо из Python-кода. 

import git

# Клонирование репозитория
repo = git.Repo.clone_from('https://github.com/user/repo.git', 'local_repo')

# Получение списка веток
branches = repo.branches
print(branches)

# Создание новой ветки
new_branch = repo.create_head('new-branch')
new_branch.checkout()

Мы использовали всего несколько строк кода для клонирования репозитория, получения списка веток и создания новой ветки. Библиотека существенно экономит время и силы, поэтому будет особенно актуальна для крупных проектов с множеством разработчиков.

Инструменты CI/CD

Инструменты CI/CD играют ключевую роль в автоматизации процесса сборки, тестирования и деплоя приложений. Jenkins — популярный инструмент для автоматизации CI/CD. Он предоставляет мощный REST API, благодаря которому можно управлять задачами и получать информацию о статусе сборок. С помощью библиотеки python-jenkins можно взаимодействовать с Jenkins из Python-кода. Так вы можете подключиться к Jenkins, получить информацию о конкретной задаче и запустить её:

import jenkins

# Подключение к Jenkins
server = jenkins.Jenkins('http://localhost:8080', username='user', password='password')

# Получение информации о задаче
job_info = server.get_job_info('example-job')
print(job_info)

# Запуск задачи
server.build_job('example-job')

Таким образом можно автоматизировать рутинные задачи и сосредоточиться на других аспектах разработки.

Автоматизация и мониторинг

Автоматизация задач и мониторинг систем обеспечивают стабильность и надёжность приложений. Посмотрим, что для этого может предложить Python. 

Python и Ansible

Ansible — инструмент для автоматизации, который позволяет управлять конфигурацией систем и развёртыванием приложений. С помощью Python можно расширять функциональность Ansible, а именно — создавать собственные модули. Например, так можно поприветствовать пользователя по имени: 

from ansible.module_utils.basic import AnsibleModule

def run_module():
    module_args = dict(
        name=dict(type='str', required=True)
    )

    result = dict(
        changed=False,
        message=''
    )

    module = AnsibleModule(
        argument_spec=module_args,
        supports_check_mode=True
    )

    name = module.params['name']
    result['message'] = f'Hello, {name}!'

    module.exit_json(**result)

def main():
    run_module()

if __name__ == '__main__':
    main()

Ещё Python и Ansible позволяют автоматизировать настройку маршрутизаторов и коммутаторов.

import paramiko

def configure_router(host, username, password, commands):
    ssh = paramiko.SSHClient()
    ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())
    try:
        ssh.connect(host, username=username, password=password)
        for command in commands:
            stdin, stdout, stderr = ssh.exec_command(command)
            print(stdout.read().decode())
    except Exception as e:
        print(f'Error: {e}')
    finally:
        ssh.close()

# Пример использования
host = '192.168.1.1'
username = 'admin'
password = 'password'
commands = [
    'configure terminal',
    'interface GigabitEthernet0/1',
    'ip address 192.168.1.2 255.255.255.0',
    'no shutdown',
    'exit',
    'exit',
    'write memory'
]

configure_router(host, username, password, commands)

Python и Prometheus

Prometheus — система мониторинга и оповещения, которая собирает метрики с источников. Для интеграции метрик из Python-приложений в Prometheus используйте библиотеку prometheus_client.

from prometheus_client import start_http_server, Summary
import random
import time

# Создание метрики
REQUEST_TIME = Summary('request_processing_seconds', 'Time spent processing request')

# Декоратор для измерения времени выполнения функции
@REQUEST_TIME.time()
def process_request(t):
    time.sleep(t)

if __name__ == '__main__':
    start_http_server(8000)
    while True:
        process_request(random.random())

Код создаёт метрику, которая измеряет время обработки запросов и запускает HTTP-сервер для сбора данных.

Можно интегрировать устройства с Prometheus, чтобы собирать метрики и визуализировать их в Grafana. Это позволит эффективнее мониторить состояние сети и быстрее реагировать на проблемы.

# Пример конфигурации Prometheus для сбора метрик с сетевых устройств
scrape_configs:
  - job_name: 'network_devices'
    static_configs:
      - targets: ['192.168.1.1:9100', '192.168.1.2:9100']
    metrics_path: /metrics
    scheme: http

Как ещё можно использовать Python?

  1. Выявлять уязвимости на ранних стадиях разработки.

В этом случае используйте Python для автоматизации проверок безопасности кода. 

import subprocess

def run_security_checks(repo_path):
    checks = [
        'bandit -r {}'.format(repo_path),
        'safety check -r requirements.txt'
    ]
    for check in checks:
        result = subprocess.run(check, shell=True, capture_output=True, text=True)
        print(result.stdout)

# Пример использования
repo_path = '/path/to/your/repo'
run_security_checks(repo_path)
  1. Собирать, обрабатывать, анализировать и визуализировать данные.

import pandas as pd
import matplotlib.pyplot as plt

# Пример анализа данных с использованием pandas
data = {
    'timestamp': ['2024-11-24 10:00:00', '2024-11-24 10:05:00', '2024-11-24 10:10:00'],
    'value': [100, 150, 200]
}
df = pd.DataFrame(data)
df['timestamp'] = pd.to_datetime(df['timestamp'])

# Рассчитываем среднее значение
average_value = df['value'].mean()
print(f'Среднее значение: {average_value}')

# Визуализация данных
df.plot(x='timestamp', y='value', title='Значения по времени')
plt.show()
  1. Выявлять аномалии и проблемы в работе системы. 

В этом случае используйте Python для автоматической обработки и анализа логов серверов и приложений. 

import re

def parse_log(file_path):
    log_pattern = re.compile(r'(?P<timestamp>\d{4}-\d{2}-\d{2} \d{2}:\d{2}:\d{2}) - (?P<level>\w+) - (?P<message>.+)')
    with open(file_path, 'r') as file:
        logs = []
        for line in file:
            match = log_pattern.match(line)
            if match:
                log_entry = match.groupdict()
                logs.append(log_entry)
    return logs

# Пример использования
log_file_path = '/path/to/your/logfile.log'
logs = parse_log(log_file_path)

# Анализ логов
error_logs = [log for log in logs if log['level'] == 'ERROR']
print(f'Найдено {len(error_logs)} ошибок в логах')

Знание Python — навык, который повысит эффективность работы и усилит любое резюме. Мы убедились, что Python помогает решать и автоматизировать разные задачи в DevOps. Как конкретно и что ещё может этот универсальный язык программирования, подробно рассказываем на курсе «Python для инженеров». 

Комментарии (5)


  1. Andrey_Solomatin
    09.12.2024 16:54

    Мы убедились, что Python помогает решать и автоматизировать разные задачи в DevOps.

    Запускать банарник можно и другими путями. Я ещё не встречал, чтобы bandit так запускался.

    Все перечисленные тут варианты имеют альтернативы, порой более качественные. Если ваш продукт не на питоне, возможно стоит посмотреть на другие языки, чтобы не плодить зоопарк.


  1. trabl
    09.12.2024 16:54

    Зная хотя бы базово python, можно использовать apache airflow для замены того же cron например, запуская скрипты из одного места, отслеживая при этом статус их выполнения. Строить зависимости и между дагами и т.д. В конце концов отказаться, там где это возможно и необходимо, от огромных скриптов на bash в пользу более лаконичных скриптов на python.


    1. economist75
      09.12.2024 16:54

      • или более легкий, красивый и современный Dagster (там тоже Python).


  1. etaradayko
    09.12.2024 16:54

    У меня вот крутится мысль... А можно заставить ChatGPT анализировать логи тогоже Nginx на предмет аномалий и вопросов безопасности?


    1. economist75
      09.12.2024 16:54

      Тема автоматизированного анализа логов чудовищно заброшена, слегка развиты лишь темы SEO и сетевых коллизий. Сам софт очень старый (analogx, webalizer итд).

      Никакой ИИ не извлечет всей пользы из логов web-сервера. Потому что только человеку дано право обогатить лог, скажем, данными продаж, индексами валют, новостного фона, погодой итд. По одному только логу никаких выводов о причинах аномалий никто сделать не сможет.

      Пока ИИ не может обогащать логи построчно - он беспомощен и бесполезен. Те крупицы аномалий что он находит лишь создают иллюзию его будущих побед. Хотя они, конечно, когда-то будут.