Всем привет! Недавно я наткнулся на World Quality Report (ссылку поставил в конце, чтобы не пугать вас сразу отчетом на 50 страниц) — большой обзор трендов в тестировании 2020-2021 годов. А поскольку мы в Qameta Software сами постоянно сталкиваемся с командами тестирования, которые стараются как-то поправить свои процессы и наладить работу тестирования, я решил оценить, насколько они актуальны в России.
Обзор базируется на результатах 1750 получасовых телефонных интервью с CIO или руководителями технологических подразделений, которые посчитали качество ПО и тестирование критично важным для развития бизнеса.
В этой статье я взял основные тренды из отчета и постарался оценить их с точки зрения того, что происходит в компаниях, с которыми мы сталкиваемся.
1. DevOps и Agile приходит в тестирование
Правда.
Больше релизов — больше тестирования. Все больше компаний пытаются вплести тестирование в цикл разработки, построенный на принципах DevOps: нет времени прогонять сотни ручных тестов, приходится думать об автоматизации, инфраструктуре и процессах, которые обеспечат и скорость, и качество, и гибкость.
Именно поэтому в последнее время инструменты для автоматизации тестирования находятся на подъеме: Cypress, Playwright, Pupperteer и многие другие. Тестировщикам тоже приходится меняться и учиться подходам разработчиков: автоматизации, масштабированию и работе по спринтам.
2. Искусственный интеллект и машинное обучение
Пока нет.
Мы ждем прихода ИИ уже давно. Что же, все еще ждем — теперь в управлении качеством. Появляются стартапы, фокус которых лежит в области подготовки, генерации и анализа тестовых данных или тестирования сервисов с помощью ИИ. Не верите? Посмотрите на Applitools, Functionize, Synthesized, TestIM или ReportPortal.
Под удар в первую очередь попадает ручное тестирование — 90% участников опроса ищут ИИ-решения, ориентированные именно на замену ручного труда в тестировании. Пока мы такого тренда не наблюдаем, вполне вероятно, он придет к нам позже.
3. Оптимизация бюджетов на тестирование
Похоже на правду.
Расходы на тестирование сократились в среднем на 13%. Авторы обзора списывают тягу к оптимизации расходов на COVID-19 и развитие трендов цифровой трансформации, что бы это не значило.
Я бы не винил пандемию. Кажется, что двух предыдущих разделов достаточно, чтобы объяснить оптимизацию количества людей, задействованных в ручном тестировании. А тем, кто остался, в руки попадут инструменты, помогающие работать быстрее и эффективнее: и окружения в облаках, и автоматизация тестов, и пайплайны для их прогонов. В итоге, тестирование должно вернуться в цикл разработки DevOps/Agile.
4. Фокус на автоматизацию тестирования
Правда.
Этот пункт не про автотесты, как можно было подумать. Он про автоматизацию процессов тестирования в целом: от создания тест-кейсов до репортинга. Я писал об этом раньше, этот тренд мы видим как один из самых явных. Меньше людей — больше автоматизации.
Этот тренд подтверждается нашими наблюдениями — все больше пользователей Allure Report двигаются в сторону автоматизации и инструментов, которые позволяют эту автоматизацию аккуратно вплести в процессы (это мы видим по спросу на TestOps).
Из нюансов — только треть респондентов чувствует, что деньги, вложенные в тулинг для тестирования, отбиваются. Непонятно, как они это считали, поэтому нельзя сказать, в чем проблема. Может быть, в неправильно выбранных инструментах. Или в том, что команды не успели к ним привыкнуть. Или в том, что их полезность не сумели продемонстрировать руководству.
5. Управление тестовыми окружениями (ТО) и тестовыми данными (ТД)
Похоже на правду.
Управлять тестовыми данными и тестовыми окружениями сложно, хорошо, что под эту задачу тоже появляются инструменты. Участники исследования смотрят на это развитие с оптимизмом: ТО и ТД уходит в облака; внедряются тулы для управления тестовыми данными (пока преимущественно для маскирования); все чаще используются инструменты виртуализации серверов и данных.
Забавно, что в этой области вопросов больше с юридической точки зрения, чем с технологической.
6. COVID-19 помог компаниям трансформироваться
Неправда.
Было бы странно, если бы менеджеры все вместе заявили о том, что провалили задачу перехода в удаленный режим. Однако мы знаем, что в процессе пострадали многие: сотрудники, инструменты, процессы и т.д.
Хотя в этом разделе есть отдельные интересные наблюдения: например, возрастание требований к тестированию безопасности связывают с пандемией и необходимостью обеспечивать удаленный и безопасный доступ к большему количеству инструментов.
Вместо итогов
В общем, World Quality Report получился скорее интересный, чем нет. Да, где-то есть призывы в духе "нормально делай — нормально будет", но в целом — рекомендую к ознакомлению. В отчете несколько десятков страниц, из которых я постарался сделать выжимку, так что каждый при внимательном изучении сможет найти интересные детали.
Остается только спросить, какие тренды ощущаете вы? Что происходит в вашем тестировании, и насколько все это совпадает с наблюдениями из отчета.
Sonnenwendekind
Интересно, как можно автоматизировать, например, валидацию, или создание системных и приемочных тестов
ARG89 Автор
Какие-то вещи автоматизировать сложнее, конечно. Формально, валидацию можно автоматизировать Селениумом (сложно? да)
Про автоматизацию я отдельно отметил, что речь не про создание тестов, а скорее про инфраструктуру и их обслуживание: обновление, запуски, перезапуски, анализ и разбор результатов, подготовку отчетов и прочее.
Sonnenwendekind
Провести валидацию означает оценить пригодность к использованию для конкретной задачи, пока программы создаются для людей - это сделать может только человек. Сюда же тесты удобства использования и тд
ARG89 Автор
Хорошо, будем валидацию проводить человеками.
Я не вижу противоречия в этом тезисе ни с каким из пунктов обзора.
mkovalevskyi
Вот тесты удобства использования, как раз, вполне можно переложить на тренированный ИИ. Бо в основном, все удобство заключается в привычности.
Другой вопрос, что в этом случае будут фейлится любые инновации, но кого это будет волновать, если ответственность можно переложить на условный «идеальный инновационный продукт для автоматического анализа удобности вашего апп с ии и блокчейнами и намного дешевле и быстрее чем ручками» ;)