Пакет, как правило, включает несколько тестовых модулей и может достигать довольно большого размера тестового корпуса. Например, набор тестов на совместимость с Android (CTS) включает в себя сотни модулей и сотни тысяч тестовых случаев.
Становится возможным сбой большого количества тестов из-за плохой изоляции или выхода устройств из строя.
Функция повторной попытки набора предназначена для решения таких случаев: она позволяет вам повторять только сбои вместо полных наборов, чтобы исключить ненадежность и плохую изоляцию. Если тест постоянно терпит неудачу, повторная попытка также не будет успешной; и вы получите гораздо более сильный сигнал о том, что существует реальная проблема.
Реализовать повторную попытку набора
Повторная попытка результатов включает в себя чтение предыдущих результатов и повторный запуск предыдущего вызова.
Основным интерфейсом, управляющим повторной попыткой, является ITestSuiteResultLoader , который позволяет загрузить предыдущий результат и предыдущую командную строку.
Затем RetryRescheduler использует эту информацию для воссоздания предыдущей команды и заполнения некоторых фильтров, чтобы повторно запустить только предыдущие сбои или невыполненные тесты.
Пример повторной попытки набора: CTS
Конфигурация повтора в CTS:
<configuration description="Runs a retry of a previous CTS session.">
<object type="previous_loader" class="com.android.compatibility.common.tradefed.result.suite.PreviousResultLoader" />
<test class="com.android.tradefed.testtype.suite.retry.RetryRescheduler" />
<logger class="com.android.tradefed.log.FileLogger">
<option name="log-level-display" value="WARN" />
</logger>
</configuration>
Это применимо к большинству расширяющих его наборов, например VTS ).
Он будет вызываться через:
cts-tradefed run retry --retry <session>
Сеанс можно найти, перечислив предыдущие результаты в консоли CTS:
cts-tf > l r
Session Pass Fail Modules Complete Result Directory Test Plan Device serial(s) Build ID Product
0 2092 30 148 of 999 2018.10.29_14.12.57 cts [serial] P Pixel
Точная исходная команда будет перезагружена и повторно запущена с дополнительными фильтрами. Это означает, что если ваша первоначальная команда включала некоторые параметры, они также будут частью повторной попытки.
Например:
cts-tradefed run cts-dev -m CtsGestureTestCases
Повторение вышеописанного всегда будет ограничено CtsGestureTestCases , поскольку мы повторяем команду, в которой участвовал только он.
Настройка повтора для пакета в стиле CTS
Чтобы повторная попытка сработала, предыдущие результаты необходимо экспортировать в формате proto. Необходимо добавить следующее:
<result_reporter class="com.android.compatibility.common.tradefed.result.suite.CompatibilityProtoResultReporter" />
Это необходимо добавить в XML-конфигурацию основной команды, и в результате в папке результатов будет создан файл test-record.pb .
Затем повторная попытка CTS загружает данные из комбинации test-record.pb и существующего test_result.xml для подготовки вызова повторной попытки.