Thomas Fransolet 269b3f6703 Lot C : backfill des colonnes de stockage (C2) et quota autoritaire (C3)
C2 — POST /api/Resource/backfill-storage, SuperAdmin, dryRun à true par
défaut : la migration se joue sur une base vide, ce backfill sur des lignes
de production. StoragePath par ResourceStorage.PathFor, SizeBytes par HEAD.

La méthode annoncée au plan — « SizeBytes par listing du bucket Firebase » —
était inapplicable : le serveur n'avait aucun client de stockage. Le sondage
passe donc par HEAD sur l'URL publique, comme le fait déjà la migration, et
le sondeur est extrait plutôt que recopié (Helpers/ResourceSizeProbe,
consommé par MigrationController et par le backfill). Même raisonnement que
pour ResourceStorage : deux copies auraient divergé sur ce qui compte, le
sort réservé aux échecs.

L'extraction a bouché un trou que personne ne cherchait. L'original ne notait
l'échec que dans son catch, or un HEAD sur un blob absent ne lève pas : il
répond 404, sans Content-Length. Ces ressources arrivaient à 0 octet sans
figurer dans le rapport — invisibles au quota et invisibles au diagnostic,
exactement ce que le commentaire d'origine voulait empêcher.

Le « 37 lignes sur 45 » du plan n'étant pas vérifiable, le backfill rend son
propre inventaire : Orphans (aucune URL, blob peut-être jamais téléversé) et
Unsized (URL présente, bucket muet) restent séparés, ce sont deux causes
distinctes.

C3 — pré-vol du quota sur les deux chemins de création, suppression du blob
à Delete, angle mort d'Update tranché.

Deux défauts trouvés en câblant, qui n'étaient documentés nulle part :

- Le pré-vol existait déjà à moitié. Upload (multipart) contrôlait et
  renvoyait 413, Create (JSON) ne contrôlait rien — or c'est le chemin
  qu'emprunte manager-app, qui crée la ligne puis téléverse.
- Les deux lectures du quota divergeaient. Upload lisait le quota du plan,
  GetQuota celui de l'instance avec le plan en repli. Une instance à quota
  surchargé — le mécanisme même de l'add-on — affichait un chiffre à l'écran
  et se faisait bloquer sur un autre. Helpers/StorageQuota devient la seule
  source de vérité pour les deux.

Delete supprime le blob AVANT la ligne et renvoie 502 en conservant la ligne
si le bucket échoue. manager-app faisait l'inverse en avalant l'échec dans un
print : la ligne disparaissait, le blob restait, et n'ayant plus de ligne il
devenait invisible au quota tout en restant facturé. Une ressource encore
listée se rattrape ; un blob que plus aucune ligne ne désigne, non.

L'angle mort laissé ouvert par C1 était une fausse crainte : PathFor ne
construit qu'un pictures/{instanceId}/{resourceId}, le type n'entre pas dans
le chemin, il décide seulement s'il y en a un. Recalculer ne peut donc pas
pointer ailleurs, et Update rejoue Apply.

Aucun secret nouveau : FirebaseAdmin était déjà référencé pour les
notifications push et Startup charge déjà un service account, donc
Google.Cloud.Storage.V1 réutilise le même GoogleCredential. Seule s'ajoute la
clé Firebase:StorageBucket, vide par défaut — à renseigner en prod (I9),
sans quoi Delete ne supprime rien et ne prétend pas le contraire.

dotnet build vert, dotnet test 163/163 (148 au départ, +7 pour C2, +8 pour C3).

Contient aussi le correctif d'indexation préparé en parallèle : un job
Hangfire par section dans BackfillInstanceAsync au lieu d'une boucle, et un
backoff sur 429/503 dans GoogleEmbeddingService.

Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
2026-08-12 12:05:25 +02:00

70 lines
2.8 KiB
C#

using System;
using System.Collections.Generic;
using System.Net;
using System.Net.Http;
using System.Threading;
using System.Threading.Tasks;
namespace ManagerService.Tests.Infrastructure
{
/// <summary>
/// Fabrique d'HttpClient sans réseau, pour les chemins qui sondent le poids d'un blob
/// par HEAD (<c>ResourceSizeProbe</c>). Les tailles sont données par URL ; une URL
/// absente de la table répond sans <c>Content-Length</c>, ce qui est exactement le cas
/// « blob introuvable » que le backfill doit inventorier au lieu de le compter pour zéro.
/// </summary>
public class FakeHttpClientFactory : IHttpClientFactory
{
private readonly IDictionary<string, long> _sizesByUrl;
private readonly ISet<string> _throwingUrls;
public FakeHttpClientFactory(IDictionary<string, long> sizesByUrl = null, ISet<string> throwingUrls = null)
{
_sizesByUrl = sizesByUrl ?? new Dictionary<string, long>();
_throwingUrls = throwingUrls ?? new HashSet<string>();
}
public HttpClient CreateClient(string name = "") =>
new HttpClient(new StubHandler(_sizesByUrl, _throwingUrls));
private class StubHandler : HttpMessageHandler
{
private readonly IDictionary<string, long> _sizesByUrl;
private readonly ISet<string> _throwingUrls;
public StubHandler(IDictionary<string, long> sizesByUrl, ISet<string> throwingUrls)
{
_sizesByUrl = sizesByUrl;
_throwingUrls = throwingUrls;
}
protected override Task<HttpResponseMessage> SendAsync(
HttpRequestMessage request, CancellationToken cancellationToken)
{
var url = request.RequestUri!.ToString();
if (_throwingUrls.Contains(url))
throw new HttpRequestException("hôte injoignable");
var response = new HttpResponseMessage(HttpStatusCode.OK);
if (_sizesByUrl.TryGetValue(url, out var size))
{
// Content-Length ne se pose que sur un contenu : un HEAD réel renvoie
// l'en-tête sans le corps, ce que StringContent + la longueur imite
// suffisamment pour la sonde, qui ne lit que l'en-tête.
response.Content = new ByteArrayContent(Array.Empty<byte>());
response.Content.Headers.ContentLength = size;
}
else
{
response.StatusCode = HttpStatusCode.NotFound;
response.Content = new ByteArrayContent(Array.Empty<byte>());
response.Content.Headers.ContentLength = null;
}
return Task.FromResult(response);
}
}
}
}