<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, Jun 13, 2019 at 8:22 AM Javier Pena <<a href="mailto:jpena@redhat.com">jpena@redhat.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Hi all,<br>
<br>
For the last few days, I have been monitoring a spike in disk space utilization for <a href="http://logs.rdoproject.org" rel="noreferrer" target="_blank">logs.rdoproject.org</a>. The current situation is:<br>
<br>
- 94% of space used, with less than 140GB out of 2TB available.<br>
- The log pruning script has been reclaiming less space than we are using for new logs during this week.<br>
- I expect the situation to improve over the weekend, but we're definitely running out of space.<br>
<br>
I have looked at a random job (<a href="https://review.opendev.org/639324" rel="noreferrer" target="_blank">https://review.opendev.org/639324</a>, patch set 26), and found that each run is consuming 1.2 GB of disk space in logs. The worst offenders I have found are:<br>
<br>
- atop.bin.gz files (one per job, 8 jobs per recheck), ranging between 15 and 40 MB each<br>
- logs/undercloud/home/zuul/tempest/.stackviz directory on tripleo-ci-centos-7-ovb-3ctlr_1comp-featureset001 jobs, which is a virtualenv eating up 81 MB.<br></blockquote><div><br></div><div>Can we sync up w/ how you are calculating these results as they do not match our results.</div><div>I see each job consuming about 215M of space, we are close on stackviz being 83M. Oddly I don't see atop.bin.gz in our calculations so I'll have to look into that.</div><div><br></div><div>Each job reports the size of the logs e.g. [1]</div><div><a href="http://logs.rdoproject.org/24/639324/26/openstack-check/tripleo-ci-centos-7-ovb-3ctlr_1comp-featureset001-stein-branch/9ade834/logs/quickstart_files/log-size.txt">http://logs.rdoproject.org/24/639324/26/openstack-check/tripleo-ci-centos-7-ovb-3ctlr_1comp-featureset001-stein-branch/9ade834/logs/quickstart_files/log-size.txt</a><br></div><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<br>
As a temporary measure, I am reducing log retention from 21 days to 14, but we still need to reduce the rate at which we are uploading logs. Would it be possible to check the oooq-generated logs and see where we can reduce? These jobs are by far the ones consuming most space.<br>
<br>
Thanks,<br>
Javier<br>
_______________________________________________<br>
dev mailing list<br>
<a href="mailto:dev@lists.rdoproject.org" target="_blank">dev@lists.rdoproject.org</a><br>
<a href="http://lists.rdoproject.org/mailman/listinfo/dev" rel="noreferrer" target="_blank">http://lists.rdoproject.org/mailman/listinfo/dev</a><br>
<br>
To unsubscribe: <a href="mailto:dev-unsubscribe@lists.rdoproject.org" target="_blank">dev-unsubscribe@lists.rdoproject.org</a><br>
</blockquote></div></div>