-
Notifications
You must be signed in to change notification settings - Fork 1
/
Copy pathNotes on Performance and RAM.txt
40 lines (40 loc) · 2.18 KB
/
Notes on Performance and RAM.txt
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
* FF 1.6 works with 10.000x10.000 picture and is fast. FF 1.7 shows not enough RAM, and if maxspace_availabe() is disabled, then it shows with 4 channels "Could not build preview at chosen zoom level." (e == memFullErr , needall=1). Also it is slow if it works with 3 channels.
R put(255-(min(min(r,g),b)),0),(c+get(0)-255)*255/get(0)
G (c+get(0)-255)*255/get(0)
B (c+get(0)-255)*255/get(0)
A get(0)
==> Speed is OK if built with Visual Studio optimization
- todo: check if watcom is also fast
- todo: check if visual studio cli ist also fast
- do also need needall=0 (state changing functions)?
==> RAM problem persists
abbruch bei (e = pb->advanceState() , OHNE dass dabei irgendwas aufgerufen wird. scheinbar beim ersten advancestate, danach keine breakpoints!
maxspace = 845934385 = 806 MB
==> simple r,g,b,a Filter mit 4 channels
SVN rev 236 no mem problem
269 no mem problem
346 no mem problem
384 am 1.11 no mem problem
392 no mem problem!!!
==> Grund: wenn ich maxspace() verwende, dann ist es in der tat BESSER, denn ich gebe wahrscheinlich mehr speicher als photoshop selbst geben würde!
==> Peel of white filter
FF 1.6 zoomed in preview ist ok, ganze verarbeitung no ram
===> jetzt geht's plötzlich doch??? und ganz schnell!
FF 1.7 zoomed out preview no ram, ganze verarbeitung no ram
selbst zoom auf 100% bringt nix
=> weil needall=1 aufgrund von statechanging_vars_used=1?
auch ändern auf r,g,b,a bringt nix
=> wenn er einmal im fehlerzustand ist, geht nix mehr weiter. RAM dann voll??? rauszoomen bringt dann auch nix!
mit state_changing_vars_used=0 geht es!
===> danach plötzlich wieder doch nicht!!!!!
==> RAM und geschwindigkeit mit 1.7.0.12 win64 photoshop cc nicht problematisch
WATCOM hat vielleicht nicht so gute optimierung wie VC++
... können wir auf win9x irgendwie verzichten?
SetFilePointerEx
GetFileSizeEx
DecodePointer
InitializeSListHead
GetModuleHandleExW
InterlockedFlushSList
Formula 0+0+0+0+0+0+0+0+0+0+0+0+0+0+0+0+0+0+0+0+0+.... is EXTREMELY slow on Filter Foundry, but super fast on Filter Factory
in general, Filter Factory is much faster than Filter Foundry. Can we do anything?